La croyance selon laquelle les Chinois furent les premiers inventeurs de la boussole vient de légendes dans lesquelles on parle de l'utilisation d'un "char indicateur du sud" dans lequel une figure à l'apparence humaine avec un bras levé et tendu vers l'avant indique toujours ce point cardinal. Si l'on suit cette trace, alors la boussole apparaît même en 2634 av. J.C., année où l'empereur Huang-ti combattit et gagna une bataille contre des rebelles en se servant justement de tels chars pour guider les troupes contre l'ennemi à travers une brume épaisse. Ne pouvant pas prendre sérieusement en considération ce qui est narré dans la légende, la première évidence importante que les Chinois utilisaient des boussoles pour diriger les bateaux est celle contenue dans un travail du nom de "P'ing-chou-k'o-t'an" daté approximativement autour de la fin du XIe siècle après J.C.

L'hypothèse que les boussoles aient été inventées par les Arabes (thèses accréditées par le constat que ceux-ci possédaient en ces temps-là une indubitable supériorité dans le domaine scientifique et une grande maîtrise de l'art de la navigation) fut aussi avancée, même s'il existe d'autres chercheurs qui observent que les Arabes, les Turcs et les Perses désignaient l'instrument avec le terme "bossola", c'est-à-dire avec le nom italien, ce qui tend à signifier que cet objet a des origines étrangères, tout comme le mot qui le caractérise. Quelle que soit son origine, une chose est sûre, les premières informations à propos de l'utilisation de la boussole pour la navigation viennent de la Chine autour de 1100 après J.C., du monde arabe en 1200, de la Scandinavie vers l'an 1250 et de l'Europe autour de 1187 environ.