1896年，第1屆奧運(yùn)會召開前，國際奧委會曾通過法國駐華使館向清政府發(fā)出邀請。但當(dāng)時(shí)的清政府正處于內(nèi)憂外患之中，對體育事業(yè)毫不關(guān)心，所以沒有應(yīng)邀參加。1922年，國際奧委會選舉我國王正廷為國際奧委會委員。1924年，中國第一個(gè)全國性體育組織--中華全國體育協(xié)進(jìn)會成立。同年派出三名網(wǎng)球運(yùn)動員，在法國巴黎舉行
的第8屆奧運(yùn)會上作了表演賽(奧運(yùn)會無正式網(wǎng)球賽)。4年后，中國又派宋如海觀光了在荷蘭阿姆斯特丹舉行的第9屆奧運(yùn)會。1931年，國際奧委會承認(rèn)中華全國體育協(xié)進(jìn)會。此后，中國正式參加了第10、11、14屆奧運(yùn)會，但均未能取得任何成績。在此期間，國際奧委會于1939年、1947年選出了我國孔祥熙、董守義為國際奧委會委員。
1949年，新中國成立后，原中華全國體育協(xié)進(jìn)會改組為中華全國體育總會(中國奧林匹克委員會)。1952年第15屆奧運(yùn)會時(shí)，由于國際奧委會某些人在中國席位問題上有意制造事端，致使我遲至7月才接到國際奧委會的邀請。待我國派出的由足、籃球隊(duì)與游泳選手組成的40人代表團(tuán)，到達(dá)赫爾辛基時(shí)，比賽已近尾聲，僅吳傳玉一人參加了仰泳比賽。但是，國際奧委會一直拖延解決我中華全國體育總會在該會的合法席位問題，直到1954年在雅典召開的國際奧委會第49屆會議上才得到確認(rèn)。1956年，國際奧委會在某些人操縱下，仍蓄意制造"兩個(gè)中國"。同年11月6日，中華全國體育總會發(fā)表聲明，宣布不參加第16屆奧運(yùn)會，以示抗議。1958年，我國中斷了與奧委會的一切聯(lián)系。
1979年11月26日，國際奧委會在洛桑宣布，經(jīng)過國際奧委會全體委員通訊表決，以62票贊成，17票反對，通過了國際奧委會執(zhí)委會前此于10月在名古屋作出的承認(rèn)中國奧委會為全國性奧委會的決定。中國體育代表團(tuán)參加大會時(shí)，使用中華人民共和國國歌和國旗。同時(shí)，為了照顧臺灣的現(xiàn)實(shí)情況，仍將臺北的奧委會作為中國的一個(gè)地方機(jī)構(gòu)，以"中國臺北奧委會"名稱保留在國際奧委會內(nèi)，但必須使用有別于迄今使用的歌曲、旗幟和會徵。至此，國際奧委會同我國的關(guān)系，才得到了解決。
1980年，新中國第一次派隊(duì)出席了在美國普萊西德湖舉行的第13屆冬季奧運(yùn)會。男女運(yùn)動員共28人，參加了滑冰、滑雪和現(xiàn)代冬季兩項(xiàng)等18個(gè)單項(xiàng)的比賽。但與世界先進(jìn)水平差距較大，無一人進(jìn)入各項(xiàng)前十名。我國未參加同年在莫斯科召開的夏季奧運(yùn)會。1981年10月，國際奧委會第84次會議選出了我國何振梁為國際奧委會委員。
中國參加奧運(yùn)會情況--
中國于1984年重返奧運(yùn)會，并實(shí)現(xiàn)了中國在奧運(yùn)會歷史上金牌零的突破。至1996年，中國共在奧運(yùn)會上奪得52枚金牌。中國在奧運(yùn)會上的傳統(tǒng)強(qiáng)項(xiàng)為男子體操、跳水、乒乓球、女子競走、射擊、女子游泳等。
1984年，在美國洛杉磯舉行的第23屆奧運(yùn)會上，中國運(yùn)動員徐海峰為中國奪得男子手槍速射金牌，實(shí)現(xiàn)了中國在奧運(yùn)史上金牌零的突破。在這屆奧運(yùn)會上，中國隊(duì)共奪得15枚金牌，列金牌總數(shù)第4。
1988年，在韓國漢城舉行的第24屆奧運(yùn)會上，中國運(yùn)動員共奪得5枚金牌。
1992年，在西班牙巴塞羅那舉行的第25屆奧運(yùn)會上，中國運(yùn)動員共奪得16枚金牌，列金牌總數(shù)第4。
1996年，在美國亞特蘭大舉行第26屆奧運(yùn)會上，中國運(yùn)動員共奪得16枚金牌列金牌榜第四名。還奪得銀牌22枚，銅牌12枚，獎(jiǎng)牌總數(shù)50枚。
2000年，在澳大利亞悉尼舉行第27屆奧運(yùn)會上，中國運(yùn)動員共奪得28枚金牌。
