Olahraga tolak peluru ini sudah dipertandingkan sejak ribuan tahun yang lalu pada masa Yunani Kuno. Sedikit maju ke depan, prajurit Troya menggunakan olahraga ini sebagai latihan perang. Namun, beberapa prajurit sering menggunakannya sebagai ajang adu kuat di kalangan mereka. Pada abad I, ada perlombaan sejenis yang diadakan di Skotlandia. Beradad-abad berselang, Raja Henry VII juga menyelenggarakan pertandingan yang mirip dengan tolak peluru di Inggris. Alat yang digunakan dalam pertandingan tersebut adalah palu dan beban. Tolak perluru mulai resmi dipertandingkan dalam Olimpiade 1896 dan selalu menjadi salah satu cabang olahraga bergensi setiap penyelenggarannya. Kala itu, peluru besi yang digunakan berbobot 2,76 – 7,26 kg bergantung dari usia dan jenis kelamin dari atletnya. Pada 1950, seorang atlet tolak peluru bernama Parry O’Brien mengenalkan teknik baru dalam olahraga tolak peluru. O’Brien memulai lemparannya dengan membelakangi aera pendaratan.