指南针一经发明很快就被应用到军事、生产、日常生活、地形测量等方面，特别是航海上。指南针在航海上的应用有一个逐渐发展过程。成书年代略晚于《梦溪笔谈》的《萍洲可谈》中记有：“舟师识地理，夜则观星，昼则观日，阴晦则观指南针。”这是世界航海史上最早使用指南针的记载。文中指出，当时只在日月星辰见不到的时候才使用指南针，可见指南针刚开始使用时，使用还不熟练。二十几年后，许兢的《宣和奉使高丽图经》也有类似的记载：“惟视星斗前迈，若晦冥则用指南浮针，以揆南北。”到了元代，指南针一跃而成海上指航的最重要的仪器了。不论昼夜晴阴都用指南针导航了。而且还编制出使用罗盘导航，在不同航行地点指南针针位的连线图，叫做“针路”。船行到某处，采用何针位方向，一路航线都一一标识明白，作为航行的依据。

指南针的发明是古代先民对磁现象的观察和研究的结果。古代先民对磁现象的观察和研究的过程中，进一步了解了磁的性质，并试图更多地应用这些性质。传说秦始皇修建阿房宫时，有一宫门是用磁铁制造的。如果刺客带剑而过，立刻会被吸住，被卫兵当场捕获。这样的故事还很多，《晋书.马隆传》记载马隆率兵西进甘、陕一带，在敌人必经的狭窄道路两旁，堆放磁石。穿着铁甲的敌兵路过时，被牢牢吸住，不能动弹了。马隆的士兵穿犀甲，磁石对他们没有什么作用，可自由行动。敌人以为神兵，不战而退。东汉的《异物志》记载了在南海诸岛周围有一些暗礁浅滩含有磁石，磁石经常把“以铁叶锢之”的船吸住，使其难以脱身。

魏晋南北朝时，我国先民对磁石的性质已有了很多认识。就连当时的诗人曹植在矫志诗中也用了“磁石引铁，于金不连。”的句子。可见他也了解磁石的性质。南北朝梁代的陶弘景在《名医别录》中提出了磁力测量的方法，他指出：优良磁石出产在南方，磁性很强，能吸引三、四根铁针，使几根针首尾相连挂在磁石上。磁性更强的磁石，能吸引十多根铁针，甚至能吸住一、二斤刀器。陶弘景不仅提出了磁性有强弱之分，而且指出了测量方法。这可能是世界上有关磁力测量的最早记载。

我国先民对磁石的性质的研究和认识是指南针发明和发展的基础。