1959年，羅馬尼亞「物理數學學會」向東歐七國發出邀請，建議在布加勒斯特舉行第一屆國際數學奧林匹克。以後，每年比賽一次，從未間斷。比賽的東道國大都是東歐國家，只有第十八屆比賽是在奧地利舉行。
根據歷屆比賽的統計結果，無論從團體總分還是獲得第一等獎的人數來看，蘇聯名列第一，處於遙遙領先的地位。
蘇聯的一些著名的數學家，如概率論大師廓爾摩郭洛夫、數學分析專家欣欽等，也經常為全蘇數學競賽出一些妙趣橫生、難度很大的題目。在比賽以前，還請各方面的專家為考生作若干次專題演講。這些措施在培養一支高水平的數學後備軍方面起了積極的作用。