如果說皇家園林都出現在政治中心，是首都或陪都的苑囿，那麼，私家園林除建在政治中心外，更多的分佈在經濟中心和文化中心。尤其在封建社會晚期的明清時代，更是集中在經濟繁榮、文人輩出的大江南北一帶。
私家園林的出現，稍晚於皇家園林。最早見於記載的私家園林性質的兩個園子，都在西漢時代。其中一個叫兔園，是漢武帝的叔叔梁孝王劉武的私園，園中有石堆的假山，有平地開掘的池塘，還有許多宮觀分佈園中，完全像是皇家園林的樣子。另一座園子是大富商袁廣漢的園子。袁廣漢是有家童八九百人的百萬富翁。他的園子東西寬四里，南北長五里，石頭堆起的假山高十多丈，連綿數里，還有高閣長廊。園內養了許多珍禽怪獸，奇花異草，在園內走半天，也不能遊遍，和皇家園林相比，只有大小的區分，內容上沒有什麼明顯的差異。從這兩個園子的規模來看，遠比現存的私家園林要大得多，也豪華得多。據說，袁廣漢的園子，後來被漢武帝沒收了，果真如此，說明皇家園林規制森嚴，不允許民間有所超越。這和後來一些私家園林中，假山太高怕踰制招來殺身之禍，因而築成又拆低的傳說是一致的。清代乾隆時的權相和珅，被嘉慶治死的罪狀之一，就是在他的私園中，出現了模仿皇家園林中的景物。後世私家園林中風格樸素、建築不能彩繪、高度受一定限制等等，除去財力達不到以外，恐怕更主要的就是受到規制的約束。在這樣的約束下，私家園林走向另外一條發展的道路，這便是寄情山水、追求隱逸、藏多露少、外卑內宏的格局。當私家園林在這一條道路上發展到相當成熟的階段，反過頭來又影響到皇家園林的造園時，清代皇家園林中就出現了許多模仿私家園林的園中之園的情景。
模寫自然山水的私家園林的出現，與魏晉南北朝時中國繪畫中的山水畫、文學中的山水詩的興起與發展是分不開的。在這個時期，豪門望族和地主的造園活動，又和他們自給自足的莊園經濟的莊園風貌相結合。從當時“別業”、“別墅”、“山居”等等名稱中，可以推想這時私家園林的內容和形式。有關園內景色的記載也大都是山林野趣、田舍風情。如西晉大臣石崇的著名金谷園，就是：“去城十里，忽高忽下，有清泉茂林眾果竹柏藥草之屬，金田十頃，羊二百口，雞豬鵝鴨之類，莫不畢備。又有水碓、漁池、土窟。”這座稱為“別廬”的園中，宅舍臨清流而建，各種樹木多至萬株，“有觀閣池沼，多養魚鳥”，恰似一幅田園風景畫。
稍晚於石崇的謝玄，是東晉指揮過淝水之戰大獲全勝的名將，因病去官後，曾在會稽構築過山間別墅。他的孫子謝靈運，即南朝大名鼎鼎的山水詩人，也託病棄官，回到他祖父營構的別墅居住，寫了一篇《山居賦》。賦中有這樣兩句話：“所賦既非京都宮觀遊獵聲色之盛，而敘山野草木水石谷稼之事。”京都宮觀遊獵之盛，無疑是指皇家的苑囿；山野草木水石谷稼之事，卻完全是一座有山水景物的莊園。這座莊園“傍山帶水，盡幽居之美”。根據其他記載，裡面有兩面臨江、可以登高遠眺江景的樓閣和其他一些點景建築。值得注意的是，這不只是一座私家園林，還帶有自然山水園林的意味。
石崇的金谷園建在洛陽附近，地處北方；而謝家的山居，卻在浙江紹興一帶。魏晉南北朝這種園林的興起，與當時的政治局面有關。石崇和謝氏祖孫建園，都有一個逃避現實的因素，石崇最後也沒有能倖免殺身之禍。有著同樣目的而在浙江山水之間隱避的當然不止謝氏一族。洛陽和江浙一帶都是後來私家園林蔚然成風的地區。
隋唐時期，私家園林和風景園林都有了發展。山莊形式的私園，仍然不斷出現在自然山水之間。以詩中有畫、畫中有詩而著名的畫家、詩人王維的輞〔wang網〕川別墅，就是景點眾多、花木繁盛並可以經營的莊園。這座位於長安郊外的輞川別墅，其前身是另一位大詩人宋之問的蘭田山莊，經過兩位詩人的營構，再加上他們以這裡景物為題材而詠唱的詩篇，不但聲名遠播，而且和眾多的自然山水園一起成為當時和後世造園的嚮往模式。它對於那些沒有自然山水可以憑藉而必須平地構造園中人工山水的林園也提供了一個模寫的對象，於是唐宋便興起了寫意山水園。
宋代的私家園林，因為有一本《洛陽名園記》的記述，所以我們了解比較具體。書中所寫雖只限於洛陽一地，但它記載的20個園子是比較清楚的。其中，有的以花木為主題，可稱為花園；有的池亭臺榭掩映在竹樹之間，專供遊賞；有的緊靠住宅，可稱為宅園。這本書的作者是北宋人李格非，他為這本書寫的跋語，是一篇著名的文章，題為《書洛陽名園記後》，文中回顧了唐代洛陽繁盛的園林毀於五代時戰爭動亂的情景，並從中得出結論：天下的治亂，洛陽的盛衰是標誌；洛陽的盛衰，園圃的興廢是標誌。以此來警策那些追求享樂、忘記天下治亂的身為公卿大夫的園主們。
宋代私家園林留存到現在有址可尋考的，有北宋蘇州的滄浪亭，主要建築滄浪亭，是明代重建的；有南宋紹興的沈園，這裡發生過愛國詩人陸游愛情悲劇故事，雖只殘存一角，仍然受到重視。
元代的私家園林，因為有蘇州獅子林遺存著一角殘山，尚能窺見到當時疊山技藝的一斑。獅子林由於元代幾位著名山水畫大家的參與設計興造，影響很大。元代的繪畫是中國繪畫史上的一個里程碑，特別是山水畫，筆墨技法已經達到最成熟的階段，在當時繪畫成就影響下的園林，更趨於畫境。
明清時代，私家園林進入了一個新的階段，一方面以池山為主體的園林特徵基本定型，一方面各種造園的理法論述相繼出現，這些都是在大量造園實踐的基礎上產生的。和明清的山水畫家以模擬宋元山水畫家筆法為能事的情況一樣，此時私家園林的陳式也在形成。
明代，無論是哪種類型的園林，從文字記載到實物遺存都是比較豐富的。明末，計成園林專著《園冶》的出現，第一次總結了古代園林藝術的系統理論。但是，《園冶》所總結的是私家園林。這要比記述漢代宮城園囿的著作《三輔皇圖》晚1000多年。計成以優美的語言論述了造園的理論和手法，幾乎涉及到園林藝術的各個方面，對建築裝修等都附有圖樣，這是第一本，也是古代唯一的一本園林藝術的專著。作者著《園冶》的年代，正是明末清初江南造園的高峰期。差不多同時，另一個在造園藝術中影響較大的畫家石濤也活躍在造園實踐中，至今還留有他所設計的片石山房假山。這一時期，可說是名園頻出，但是私家園林的造園高潮期，還是在清代乾隆年間(公元1736—1795年)，幾乎與以圓明園為代表的三山五園皇家園林的興建同步。
自乾隆十六年(公元1751年)開始，乾隆曾六下江南。這一行動，刺激了江浙私家園林的飛躍發展，其中最突出的要數揚州的園林。
揚州地處運河和長江的交匯點，自隋唐以來，就是東西南北的交通樞紐，又是食鹽的集散地。清初，揚州既是經濟中心，又是文化的中心，富有的鹽商們在迎接乾隆南巡時，在揚州北門外瘦西湖兩岸直至平山堂山下，大造園林，形成“兩岸花柳全依水，一路樓台直到山”的局面。深隱城內街巷中的私家園林，與展現於郊野河湖兩岸的園林，有著全然不同的旨趣，鹽商們在經營上的競爭，在園林修建中反映了出來。圓明園把江南園林成組地仿建在御苑之中，鹽商們卻花費重金向隨侍的太監們收買御苑中的景物圖樣，重現在瘦西湖上。當時就有：“杭州以湖山勝，揚州以園亭勝，蘇州以市肆勝”的定評。但是揚州園林的鼎盛期猶如曇花一現，不久便都衰敗了。這是由於鐵路交通的變化，揚州失去了原有的經濟地位，以財力為支柱的園林，也就再沒有能恢復到乾隆時代的盛況。
作為全國知名度最高的風景園林杭州西湖，已被古代詩人們一再詠唱，稱讚得無以復加了。五代、南宋都曾在杭州建都，並在這裡興造園林、寺廟、佛塔，確把西湖周圍裝點得十分嫵媚。加上這裡的一景一物都有著動人的故事和傳說，或和歷史人物有關係，便更加令人神往。西湖上有許多有名的墳墓，其中首推岳墳，其次還有妓女蘇小小墓、高士林和靖墓、英雄武松墓、辛亥革命烈士秋瑾的墓。西湖中的兩條長堤，其中白堤是為紀念做過杭州刺史的唐代詩人白居易的政績，由原名白沙堤改稱的；蘇堤是宋代文學家蘇東坡任杭州知州時調集民工構築的。清代浙江巡撫阮元疏浚西湖的淤泥，堆成了湖心小島，被稱做阮公墩。西湖經過歷代經營，已成為自然湖山中造景的模式。乾隆在北京西郊興造清漪園時，昆明湖就是完全模仿西湖挖成的，包括分佈在西湖岸邊的廟宇和橋堤。長期以來，人們用“上有天堂，下有蘇杭”稱讚江浙一帶的這兩個有代表性的城市蘇州和杭州。除了它們的殷實富足以外，風景園林的優美，當是主要的因素。蘇州已經成為中國古代私家園林集中、享譽中外的園林之城。蘇州園林也成為古代私家園林保存最多、規模最大、品類最全、藝術價值最高的代表。
寺廟園林也是中國古代園林中的一種。佛教自東漢傳入以後，佛寺興起。道教自東漢末年形成，道觀由早先的迎神或登高觀望的建築也逐步衍化。寺觀建築豐富了園林景物的內容。北朝時代的佛教寺院，在北魏時楊衒之寫的《洛陽伽藍記》中，反映得相當充分。當時洛陽城內外就有寺廟1367所，其中不少寺廟，就有池台花木之勝的園景，有的本來就是貴族的宅園改作為寺廟的。至於南朝寺廟的盛況，可從一首唐詩中窺見一斑：“千里鶯啼綠映紅，水廓山村酒旗風；南朝四百八十寺，多少樓台煙雨中。”這首題為《江南春》的絕句，既概括了南朝佛寺的興盛，又將自然風光經寺廟點綴後的景色，烘染了出來。但是以寺廟建築點綴園林的最佳景物，應數佛塔。
佛塔是印度窣堵坡(墳墓)和中國固有的樓閣建築相結合的產物，在長期發展過程中，它的形式極為豐富多彩。至今，各個朝代的塔，依然裝點著祖國山河大地上的各種類型的園林。在寺廟園林中，塔更是突出的景觀。在皇家園林中，有清代北海瓊華島上的白塔，靜明園玉泉山上的玉峰塔、妙高塔，頤和園內的多寶琉璃塔，避暑山莊內的永佑寺塔等等。在自然風景園林中，有杭州西湖的保俶塔，錢塘江邊的六和塔，揚州瘦西湖的白塔，它們都是具有代表性的園林景物。就是已經塌毀的西湖上的雷峰塔，至今，人們仍然懷念落日餘暉下“雷峰夕照”那耐人尋味的神韻。