秦始皇統一天下，自稱始皇帝，開創了前所未有的中央集權的封建大帝國。他所創立的各項政策制度中，影響最大的有兩項，其一為在北方修建長城，其二為廢除封建制、實行郡縣制。實行郡縣制，郡縣長官均由中央統一任命，並要服從中央的命令，由此便確立了中央政權的權威，實現了封建國家權力的集中。它有如在東亞大陸上築起了無形的長城，終於形成現在統一的多民族國家。
早在春秋初期，秦、晉、楚等國往往把兼併得來的土地和滅亡的小國改設為縣。縣和卿大夫的封邑不同，是國君直屬的地方行政區域，有利於國君的直接統治。到春秋後期，晉國把縣制推行到內地，一些新興地主階級的卿大夫在封邑內也設縣管理，縣開始成為地主政權的地方行政組織。春秋末期又在新得到的邊地設置郡，當時郡的面積要比縣大，但地位比縣低。後來由於這些地區逐漸繁榮，人口增多，就在郡下劃分縣，產生了郡縣兩級的地方組織。到秦始皇統一天下之前，郡縣的設置均不能算做一項製度，它並沒有得到全面的推廣。
秦始皇統一天下之後，立刻就面臨著一個兩難的選擇：封建諸侯還是全面推廣郡縣制。有些人認為周代統治長達八百年，廣泛地分封諸侯是一個重要原因，因此秦朝如要長治久安，就應該和周代一樣推行分封制。這些人一開始就把先王的製度抬出來，秦始皇自然有些動心。惟獨廷尉李斯起來反對。他認為西周初年廣建諸侯，自然是促進了各地的發展，但時間一久，諸侯與中央關係日益疏遠，彼此之間的明爭暗鬥就在所難免。西周與東周中央王朝力量薄弱，諸侯互相侵擾，戰爭連綿不斷，完全是分封製造成的惡果。秦始皇自以為德兼三皇、功蓋五帝，不願意再蹈周朝之覆轍，最後採納李斯的意見，在全國推行郡縣制。郡縣制的推行總結了前代的教訓，順應了時代的要求，使整個東亞大陸聯爲一體，不可分割，影響深遠。
秦統一之初，全國設三十六郡，後隨著疆域的不斷擴大，增至四十六郡。郡的行政長官稱為郡守，由中央任命，掌管一郡政治、經濟、軍事與司法等事務。其下屬有郡丞、郡尉、監御史。郡丞輔佐郡守，為郡守的副職。郡尉處理兵事，監御史則負責監察。郡下設縣，萬戶以上縣長官稱縣令，不滿萬戶則稱縣長。縣令（長）主管縣內政務，同樣由中央任命。其下屬縣丞、縣尉分別協助縣令（長）政務、司法和軍事。縣下設鄉，鄉下設亭，亭下設裡。鄉設三老，分別為有秩、嗇夫、遊徼，分掌地方教化、民政、訴訟、治安。這一套制度，後世雖屢加變革，但基本精神卻相沿兩千餘年。
秦始皇的功績，只此一事就足以確立；秦始皇的偉大，如沒有這一事，就根本就無從談起了。