根據考古學家的發掘，遠在公元前21世紀到前11世紀，也就是我國進入奴隸社會的初期，夏、商代就有了陵墓建築。河南安陽曾是商代的首都，現在挖掘出來的不僅有一定規模的宮室建築區，而且還有陵墓區。在這個區內發現有十幾處規模不小的墓，這些墓的形狀是在土中挖方形的深坑作為墓穴，穴四周用方木壘砌，下舖木板，上列木枋，成為一種完全用枋木壘造的井乾式的墓室，稱為槨〔guo果〕。在槨室的內牆表面還發現有彩色的繪畫和雕刻的花紋。從墓穴至地面有斜坡相通，這些墓穴都在地面八米以下，深的有達13米的，墓道長達32米。墓穴中除奴隸主的遺骨外，還有一些石器和陶器，這些都是死者生前的用品。值得注意的是在這些墓內還發現有數以百計的人的遺骨，這顯然是作為人殉而隨奴隸主一起入葬的，反映了奴隸社會早期野蠻的殉葬制度。
秦始皇統一中國後，興建了空前規模的宮殿建築群，同時也建造了空前規模的始皇陵。皇陵建在今陝西臨潼縣的驪山北麓，陵的形狀是方形的錐體，底邊南北350米，東西345米，高達43米。陵體的四周有兩重圍牆，呈南北長、東面窄的長方形，內牆周長2500米，外牆周長6000米。根據文獻記載，這座陵墓裡“穿三泉，下銅而致槨，宮觀百官奇器珍怪，陡臧滿之。令匠作機弩矢，有所穿近者，輒射之。以水銀為百川江河大海，機相灌輸。上具天文，下具地理。以人魚膏為燭，度不滅者久之”(《史記·秦始皇本紀》)。根據這些描繪，我們可以看到，地宮內有宮殿、有文武百官的雕像，放滿了珍珠寶石；天花板上有日月星辰的標記，地上挖出江河大海的形狀，裡面灌滿水銀；用魚膏作蠟燭照亮墓室；為了防止後人的盜掘，還專門讓工匠製造了弓箭安在門上。皇帝想的做的可算是很周全了，自然，魚膏蠟燭不可能燃燒2000年，防衛的弩矢也可能早已失靈，但墓室至今未曾發掘過，所以文獻上的記載一直未能被證實，始皇陵的真面目始終是個未解開的謎。不過，近十多年來，考古學家卻做了件大好事，在始皇陵體的周圍陸續發掘出了建築遺址、銅製車馬和大規模的兵馬俑。兵馬俑是一種隨葬品，這和殷墟商代墓穴遺址中發現的人骨具有同樣的性質，但在這裡，陶土的俑代替了活人，這不能不說是封建社會比奴隸社會的一大進步。從這麼大規模和這麼精緻的銅車馬、兵馬俑身上，可以使我們推測始皇陵的宏大與豪華確是空前的了。
漢代繼承秦代的製度，十分重視陵墓的建造。據文獻記載，秦漢以來，陵墓不但在平地上建高大的陵體，而且在陵前設石麒麟、石辟邪、石像、石馬等雕像以表示墓主人生前所享有的儀表和起到守衛陵墓的象徵作用。這種形式在現存的漢代陵墓中開始發現。漢武帝時期名將霍去病墓前石雕是這種佈置的第一個例子。石雕作品除獸類外，還有一種放在陵墓最前面的石闕左右各一，成為陵墓的入口標誌。它的形式為長方形的石碑上安有木結構形式的屋頂，相當於一件大型的石雕作品。可以看得出，中國古代的陵墓建築到了秦漢時期已經形成了地下和地上建築相結合的群體，地上建築開始有了神道，道旁佈置有石雕刻和石建築。
秦漢以後，三國鼎立，國家分裂，戰亂不止，經過300餘年到了隋唐才又獲得統一，中國封建社會進入了一個昌盛繁榮的時期。封建皇帝繼承祖制，更加重視陵墓的建造，唐代帝王陵墓最大特點就是比前代更加追求陵體的高大，更加追求陵區總體規模的龐大與氣勢。唐太宗不滿足於挖地堆土為陵體而開創了開山為陵的先例，這就是選擇有氣勢的山脈為陵體，鑿山石築造墓室。這種做法最有代表性的是唐乾陵。乾陵是唐高宗與武則天皇后的合葬墓，選擇在西安附近的乾縣梁山地區。梁山的北峰高大雄奇，海拔近1047米，在它的南邊有兩座小山峰左右呈對峙狀。乾陵將地宮安在北峰的山腰，在北峰四周築以方形圍牆，四方各開一門。在北峰之南有一條長達四里的墓道，在墓道兩旁排列著100餘尊石人石獸，直抵南端的入口闕門。梁山南面二峰左右對峙在墓道東西，峰頂上還建有闕亭，成為乾陵的天然闕門。這種利用天然山勢環境，加以人工規劃設計而形成的龐大陵區，的確比前代完全由人工創造的陵墓更顯得有氣勢，更能體現出封建帝王的唯我獨尊和一統天下的意志。
唐以後進入五代十國，國家又四分五裂。公元960年，宋代統一中原，雖然在經濟上有所恢復，但與北方的遼、金、夏先後對峙，在政治和軍事上一直沒有得到像唐朝盛期那樣的安寧與強大。這種狀況反映在陵墓建築上，最明顯的是規模比唐代小了。宋代有規定：皇帝、皇后在生前不許營建自己的陵墓，只能在死後再選址建陵，而且要在七個月內建成安葬。這種規定加上經濟條件的限制，宋陵規模都不大，而且諸陵形式多有雷同。北宋九個皇帝的陵墓都建在今河南鞏縣境內，各座陵墓都採用平地起陵台的形式，在方形陵台四周築圍牆，四面開門，四角建闕樓，陵南面是墓道，兩邊排列著石人石獸。宋陵的規模雖小，但是可以看出，前有墓道，後有寢殿，陵台在後，台下為墓穴，這種地下地上相結合的形式已經成為中國古代皇家陵墓的固定格式了。
宋代由於農業、手工業的發達帶動了商業的發展，使社會上出現了一批富有的商人和官吏，這樣倒引出了一批較講究的中型墳墓，這類宋、遼、金時代的墓穴在河南、山西、河北等地多有發現。它們都以磚石為結構，在墓穴的四壁雕有裝飾，其內容多為描繪墓主人生前的生活情景，形像生動自然。