奧林匹克團結基金負責管理奧運會盈余，在奧林匹克團結基金委員會的監督和指導下工作。1961 年國際奧委會第58 次年會經法國籍委員Count Jean de Beaumont 提議，決定成立該組織。當時該組織稱作國際奧林匹克援助委員會，其主要任務是援助亞洲與非洲新獨立國家的奧林匹克活動。該委員會於1968 年成為國際奧委會的壹個專門委員會，1971 年改名為奧林匹克團結基金委員會。1972~1979 年，該委員會辦公室設在羅馬，得到意大利奧委會支持，開始接受資金。1980 年該辦公室遷至洛桑的國際奧委會總部。從1982 年起，該委員會主席由國際奧委會主席薩馬蘭奇兼任。在20 世紀80 年代初期，該組織財力仍極為有限，因此各國家奧委會並不熟知此組織的運作情形。1984 年洛杉磯奧運會
營銷成功，使該基金會得以根據四年壹度的奧林匹克周期（Olympiad）安排其援助計劃。
奧林匹克憲章規定：“奧林匹克團結基金是國際奧委會的壹個部門，其任務是援助國家奧委會，特別是那些最需要支持的國家奧委會。援助采取由國際奧委會與國家奧委會***同合作的方式進行，必要時可由國際體育總會提供技術援助。”盡管該基金是國際奧委會的部門，但有相當的自治性，有自己獨立的賬戶。