指南针的始祖大约出现在战国时期。它是用天然磁石制成的。样子象一把汤勺，圆底，可以放在平滑的“地盘”上并保持平衡，且可以自由旋转。当它静止的时候，勺柄就会指向南方。古人称它为“司南”，当时的著作《韩非子》中就有：“先王立司南以端朝夕。”“端朝夕”就是正四方、定方位的意思。《鬼谷子》中记载了司南的应用，郑国人采玉时就带了司南以确保不迷失方向。

春秋时代，人们已经能够将硬度5度至7度的软玉和硬玉琢磨成各种形状的器具，因此也能将硬度只有5.5度至6.5度的天然磁石制成司南。东汉时的王充在他的著作《论衡》中对司南的形状和用法做了明确的记录。司南是用整块天然磁石经过琢磨制成勺型，勺柄指南极，并使整个勺的重心恰好落到勺底的正中，勺置于光滑的地盘之中，地盘外方内圆，四周刻有干支四维，合成二十四向。这样的设计是古人认真观察了许多自然界有关磁的现象，积累了大量的知识和经验，经过长期的研究才完成的。司南的出现是人们对磁体指极性认识的实际应用。

但司南也有许多缺陷，天然磁体不易找到，在加工时容易因打击、受热而失磁。所以司南的磁性比较弱，而且它与地盘接触处要非常光滑，否则会因转动摩擦阻力过大，而难于旋转，无法达到预期的指南效果。而且司南有一定的体积和重量，携带很不方便，这可能是司南长期未得到广泛应用的主要原因。

司南由青铜盘和天然磁体制成的磁勺组成，青铜盘上刻有二十四向，置磁勺于盘中心圆面上，静止时，勺尾指向为南。