Компас, как и бумагу, еще в глубокой древности изобрели китайцы. В III веке до Р.Х. китайский философ Хэнь Фэй-цзы так описывал устройство современного ему компаса: он имел вид разливательной ложки из магнетита с тонким черенком и шарообразной, тщательно отполированной выпуклой частью. Этой выпуклой частью ложка устанавливалась на столь же тщательно отполированной медной или деревянной пластине, так что черенок не касался пластины, а свободно висел над ней, и при этом ложка легко могла вращаться вокруг оси своего выпуклого основания. На пластине были нанесены обозначения стран света в виде циклических зодиакальных знаков. Подтолкнув черенок ложки, ее приводили во вращательное движение. Успокоившись, компас указывал черенком (который играл роль магнитной стрелки) точно на юг. Таким был самый древний прибор для определения сторон света.

В XI веке в Китае впервые появилась плавающая стрелка компаса, изготовленная из искусственного магнита. Обычно она делалась в форме рыбки. Эту рыбку опускали в сосуд с водой. Она свободно плавала, указывая своей головой в ту сторону, где находился юг.
Несколько разновидностей компаса придумал в том же XI веке китайский ученый Шэнь Гуа, который много работал над исследованием свойств магнитной стрелки. Он предлагал, например, намагнитить о природный магнит обычную швейную иглу, затем прикрепить ее с помощью воска в центре корпуса к свободно висящей шелковой нити.

Этот компас указывал направление более точно, чем плавающий, так как испытывал гораздо меньшее сопротивление при своем повороте.

Другая конструкция компаса, предложенная Шэнь Гуа, была еще ближе к современной: намагниченная иголка насаживалась на шпильку. Во время своих опытов Шэнь Гуа установил, что стрелка компаса показывает не точно на юг, а с некоторым отклонением, и правильно объяснил причину этого явления тем, что магнитный и географический меридианы не совпадают между собой, а образуют угол. Ученые, которые жили после Шэнь Гуа, уже умели вычислять этот угол для различных районов Китая. В XI веке многие китайские корабли были оснащены плавающими компасами. Они устанавливались обычно на носу и на корме кораблей, так что капитаны в любую погоду могли держать правильный курс, сообразуясь с их указаниями.

В таком виде китайский компас в XII веке заимствовали арабы. В начале XIII века "плавающая игла" стала известна европейцам. Первыми ее переняли у арабов итальянские моряки. От них компас перешел к испанцам, португальцам и французам, а позднее- к немцам и англичанам. Поначалу компас состоял из намагниченной иголки и кусочка пробки, плававшего в сосуде с водой. Вскоре догадались закрывать этот сосуд стеклом, чтобы защитить поплавок от действия ветра.

О применении европейцами компаса впервые упоминается в сочинениях английского монаха Некема (1157 - 1217 гг.). Там говорится:" Моряки во время плавания, когда не могут ориентироваться из-за пасмурной погоды или когда мир погружен в темноту ночи, и когда они не знают, в каком направлении держать путь, пользуются свободно вращающейся стрелкой , один конец которой показывает на север".

В середине XIV века придумали помещать магнитную стрелку на острие в середине бумажного круга (картушки). Затем итальянец Флавио Джулио усовершенствовал компас, снабдив его картушкой, разделенной на 16 частей (румбов) по четыре на каждую часть света. Это нехитрое приспособление стало большим шагом в усовершенствовании компаса. Позже круг был разделен на 32 равных сектора.

В XVI веке для уменьшения воздействия качки стрелку стали крепить на кардановый подвес, а век спустя компас снабдили вращающейся линейкой с визирами на концах, что позволило точнее отсчитывать направления.