До изобретения гироскопа человечество использовало различные методы определения направления в пространстве. Издавна люди ориентировались визуально по удалённым предметам, в частности, по Солнцу. Уже в древности появились первые приборы: отвес и уровень, основанные на гравитации. В средние века в Китае был изобретён компас, использующий магнетизм Земли. В Древней Греции были созданы астролябия и другие приборы, основанные на положении звёзд.
Гироскоп изобрёл Иоанн Боненбергер и опубликовал описание своего изобретения в 1817 году. Однако французский математик Пуассон ещё в 1813 году упоминает Боненбергера как изобретателя этого устройства. Главной частью гироскопа Боненбергера был вращающийся массивный шар в кардановом подвесе. В 1832 году американец Уолтер Р. Джонсон придумал гироскоп с вращающимся диском. Французский учёный Лаплас рекомендовал это устройство в учебных целях. В 1852 году французский учёный Фуко усовершенствовал гироскоп и впервые использовал его как прибор, показывающий изменение направления (в данном случае — Земли), через год после изобретения маятника Фуко, тоже основанного на сохранении вращательного момента. Именно Фуко придумал название «гироскоп». Фуко, как и Боненбергер, использовал карданов подвес. Не позже 1853 года Фессель изобрёл другой вариант подвески гироскопа
Термин впервые введен Ж. Фуко в своём докладе в 1852 году во Французской Академии Наук. Доклад был посвящён способам экспериментального обнаружения вращения Земли в инерциальном пространстве. Этим и обусловлено название «гироскоп».