我國是世界上鐵礦開採技術與鐵的使用最早和最先進的國家，因此磁石吸鐵現象約在春秋時期就被人們發現了。當時人們把磁石的“磁”字寫成慈母的“慈”字。在人們的意念中，“慈石”吸鐵就像慈母戀子一樣。在古代科學史上，中國人對於磁的認識和應用一直都居世界領先地位。
早在漢代，人們發現磁石雖然可以吸鐵，但不能吸引銅和瓦石。 《淮南子·覽冥訓》寫道：“慈石之能連鐵也，而求其引瓦則難矣。”《淮南子·說山訓》又寫道：“慈石能引鐵，及其於銅則不行也。”不僅如此，漢代人還知道磁鐵的排斥現象。他們用磁石作棋子，使之互相觸擊。異性端的觸擊，棋子互相吸引；同性端的觸擊，棋子互相排斥。漢代人將這種遊戲稱為“鬥棋”。由此看來，在漢代，人們已經發現了磁極性。
古代中國人雖然不清楚電與磁是彼此相關的，但是琥珀與磁石二者都具有的吸引性質，使得他們在文字記述這些現象時總是將它們相提並論。王充說：“頓牟(玳瑁)掇芥，慈石引針，皆以其真是不假他類。”(《論衡·亂龍篇》)東晉郭璞說：“慈石吸鐵，玳瑁取芥”(《山海經圖贊·北三經第三》)，等等。這種以物理特性將自然界的各種現象歸類的方法是科學的。由於磁石具有的吸鐵本性，古代人不僅將它列為中草藥之一，還將它直接用於治耳聾，以為磁石可以將塞住耳孔的東西吸出來，迷信人用它招魂；據說，秦始皇用它築阿房宮的大門，以防持帶鐵器的盜賊進入。晉朝大將馬隆與羌人作戰時，在窄道上壘磁石，羌人過，鐵甲一一留存，羌人以為神，馬隆因此大勝。 (《晉書·馬隆傳》)
宋代是我國磁學知識發展高峰時期，人們在認識磁的特性和利用方面都有重大發現。首先，楊維德和沈括在世界上最早發現了地磁偏角。第二，宋代人還發現了種種人造磁鐵或人工磁化的方法。第三，宋代人製造了種種輕便的指南針，並且首先在航海中應用它辨別方向。
清初，中國人對磁學又作出了一項重大發現。古代人早就知道，磁石吸鐵，可以連吸，即被吸引的細針又可以吸引第二根細針。這樣，在一塊磁鐵上就一連串地掛上十幾根針。只要原磁鐵的強度足夠大，還可以吸引更多。雖然磁鐵不能引銅，但在銅盆底外放一塊磁鐵，盆內的鐵屑會隨盆底外磁鐵的移動而移動。這樣看來，彷彿磁鐵的作用是不被其它金屬阻礙隔斷的。古代人稱這種現象為“磁石吸鐵，隔礙潛通”。那麼，什麼東西可以隔斷磁石的作用呢？清初劉獻庭(公元1648—1695年)在《廣陽雜記》中寫下這麼一件事：某人問，“磁石吸鐵，何物可以隔之？”我的侄子阿儒說：“只有鐵可以隔斷它。”其人即去實驗，發現果然如此。這個故事雖然沒有具體敘述如何用鐵隔斷磁石的作用，但他既然實驗過並作出了肯定的結論，也許自有其方法。從現代磁學知識看，只要用鐵絲將磁石包圍起來，或者將那個被吸的物體放入鐵絲網籠中，磁鐵就不能吸引它了。這種隔斷磁作用的現像被稱為磁屏蔽。中國人在17世紀就發現它，而且隔斷磁作用的正是被磁吸引的鐵，這就令古人為之驚愕了。