中國古代園林自漢魏以來，以至明清，總離不開山水。幾千年來，中國人已形成了對山水的嗜好，形成了各種各樣的山水觀。這些源於對中華山川鍾愛形式的山水觀，又驚人地趨於認識與表述上的根本一致，甚少例外。
山水是自然物，是天地間處於相對靜態與動態的自然物。孔子在《論語·雍也》中有一段名言：“知者樂水，仁者樂山，知者動，仁者靜，知者樂，仁者壽。”這段話，既將自然物的性格賦予了人，又將人的性格賦予了自然物，不能肯定將山水人格化的山水觀始於孔子，但可以肯定在此之後的年代裡，山水確成了後世中國園林中的主角而久演不衰。
從古代園林發展中，大概有兩種原因促使人們嚮往山水。一種原因是城市化的生活環境使人遠離了自然界的山水；另一種是為了逃避社會現實。但是，當中國古代園林的結構已經形成不同山水模式以後，像其他藝術陳式的形成一樣，不但自身的發展趨於停滯，而且隨著社會經濟的變化，文化形態的演變，會終止其創作的價值，或者只剩下表相的某些形式，被賦予新的功能，得到暫時的延續。不可忽視的是，遺存的古代園林精品，或者只留有著錄的作品，仍將佔有應有的歷史地位，永遠為後世子孫所珍視。
自然山水的美，從某種意義上說是永恆的。幾千年來，山水畫家、山水詩人的創作，主要是依自然山水為藍本的。中國古代山水詩的興盛早於山水畫，當魏晉南北朝之際，山水畫尚處在“人大於山，水不容泛”的創始階段，山水詩已出現了許多煊赫的宏篇巨制，開始進入山水詩的輝煌時期。就在此時，中國南北興建皇家園林、私家園林和寺廟園林蔚然成風。中國古代園林中並非直觀的詩意，而將早於視覺直感的成熟畫境注入在園景之中，成就了以山水為骨架的中國古代園林的濃郁的詩意。不僅是園林，恐怕後來代所有大家的中國山水畫，也絕離不開這個詩先於畫的時間之差。古代園林從來受惠於古代詩畫，所謂“無聲的詩，立體的畫”，是我們現代人對它允當的評論。同時，園林在這1000多年中，又反哺詩畫，同樣是不可忽視的古代文苑的美學現象。
詩、畫和園林都從自然山水的雄奇、秀美等等印像中產生意境。一個原始的自然物，不經過人的意識的加工，是不會生髮意境的。經過人的思維加工，特別是經過人的行為介入過的自然山水，它的傳說，通過各種渠道的傳播，是很容易被人格化、性格化的。
山水在被人格化的基礎上往往又被神化、佛化、仙化、狐化、妖化甚至鬼化。可喜的是，古代園林中，在將山水人格化的時候，大多選取美的形象、美的寓意，甚少創設美的對立面，這一點使園林的創作，區別於古代文學藝術創作的一般表現方法。
中國園林對山水空間的創造與再現，從仙山瓊閣到世外桃園，是古代社會中不同身份的人的反映。作為“至尊”的皇帝與隱逸的“高士”之間的境界的差別，既在現實中是那樣的涇渭分明，作為既是藝術空間又是生活空間的園林，也有著不可逾越的鴻溝。 “至尊”與“隱逸”是皇家園林與私家園林的差別所在。
權力與財富使皇家園林得以包攬自然山水於一囿之中，而私家園林更多地運用智力，將自然山水濃縮於一園之中。皇家園林的精品，產生於朝代的興旺之時，私家園林往往產生於園主的失意之時。同樣寄情於山水，心境卻全然不同。身處寺廟園林和風景園林中的高僧老衲，羽士山人，又是別樣的心境，他們在山水之間修身養性，參禪煉道，祈求得到的是各自信仰的永恆。
有兩個文化現像是不可忽視的，一個是中國佛教的各個宗派的祖庭(發祥地)多為自然山水中的寺廟，其中，許多為現存的著名寺廟園林，如河南嵩山少林寺，浙江杭州的靈隱寺，浙江鄞〔yin銀〕縣太白山中的天童寺，江蘇鎮江的金山寺，福建的鼓山湧泉寺、開元寺等等。這些還只是禪宗的寺廟。再以漢傳佛教所崇信最廣的四大菩薩的道場為例，更是將山水佛化的典型。這就是中國佛教的“四大名山”：山西五台山(文殊菩薩的道場)，浙江普陀山(觀音菩薩的道場)，四川峨眉山(普賢菩薩的道場)，安徽九華山(地藏菩薩的道場)。這四大名山，是四處山水風景名勝，不但寺廟眾多，而且建築豐富多彩，既反映了地區的特點，又體現了民族宗教的個性。如五台山南禪寺大殿、佛光寺大殿，是國內僅存的唐代木結構建築。四大名山，自然景觀也各具特色，既是佛教聖地，也是遊覽勝地。
另一個不可忽略的文化現像是，中國武術的主要流派也都發祥於山水寺廟之中，外家派起自少林寺，而內家派與道教第一名山武當山關係密切。
依託於山水或者以山水為藍本的中國古代園林，是對自然山水最好的反饋。中國古代園林的造園實踐開發了中國的自然山水，展拓了自然山水的文化領域，把自然山水融進古代的城市，融進人們的日常生活。用現代的生態觀點來衡量，中國古代園林不但沒有因廣泛的分佈和大量的建設而破壞生態，相反，美化和改善了生態環境。