ในยุคโบราณได้มีการค้นพบหินแม่เหล็กธรรมชาติ ในยุคแรกซึ่งคนจีนได้เริ่มสังเกตเห็นลักษณะของหินแม่เหล็ก สามารถชี้ไปทางทิศเดียวกันเมื่อถูกห้อยลง หรือ วางบนพื้นราบ ซึ่งได้กลายมาเป็นแนวคิดพื้นฐานสำคัญในการสร้างเป็นเข็มทิศเพื่อใช้ในการบอกทิศทางในสมัยยุคโบราณชาวจีนโบราณค้นพบว่าแร่แมกนีไทต์มีคุณสมบัติชี้ทิศเหนือ-ใต้ เมื่อแขวนไว้อย่างอิสระ โดยถือเป็นจุดเริ่มต้นของการพัฒนาเข็มทิศ

โดยรูปร่างเข็มทิศในยุคโบราณมีลักษณะคล้ายช้อนที่มีพื้นด้านล่างเรียบและมัน สามารถหมุนได้อย่างอิสระบน "ตี้ผาน" (จานบ่งทิศทาง) ซึ่งทำจากทองแดงหรือไม้ เมื่อเข็มทิศที่หมุนหยุดนิ่งแล้ว ส่วนที่เหมือนคันช้อนของเข็มทิศจะชี้ไปทางทิศใต้เสมอ