中國的山水畫，在盛唐時期已頗具特色，可惜他們的畫蹟已不可睹。五代、宋初是山水畫大發展的時期，產生了許多影響深遠的山水畫大家。例如荊浩、關仝，根據對北方真山真水的感受，採取“遠取其勢，近取其質”的表現方法，畫氣勢磅礴的全景山水。例如，荊浩的《匡廬圖》、關仝的《山溪待渡圖》、《關山行旅圖》等都是如此。生活在南方的董源、巨然則專畫江南一帶的水光山色。
董源，字叔達，鐘陵(今江西省南昌)人，生活在10世紀。被後人稱為南派山水畫的創始人。作品有《夏山圖》、《夏景山口待渡圖》、《龍宿郊民圖》、《瀟湘圖》、《溪山行旅圖》等。其中《瀟湘圖》最能代表他的繪畫風格。
《瀟湘圖》高50厘米，橫141厘米，現藏北京故宮博物院。蒼茫的山巒起伏連綿，平遠而深幽。寧靜的江水傍依著交橫的洲渚〔zhu主〕，曲曲彎彎伸向遠方與天光相連。山坡上有茂密濃郁的叢林，灘塗淺水之間有俯仰多姿的蘆葦。河右岸，數人在奏樂、吹打，似在迎接向岸邊駛來的小船。船上六人，有朱衣者坐於傘下，大概是被迎接的貴人。河對岸，有許多漁民正在撒網，另一側還有一小舟盪於水中。畫中人物雖細小如豆，細細看去，卻各具姿態。觀此圖，好像置身於濕潤多雨的江南幽境，會使人產生超乎塵世的聯想。
此圖水墨淡著色。山石用披麻皴法，山頂多用花青水墨小圓點，點簇。成功地表現出江南山水蒼茫、渾厚的特色。人物用鮮豔厚重的粉白、青綠、硃砂等點畫，在清幽淡遠的水光山色之中，非常醒目，但並不喧賓奪主。
湯垕的《畫鑑》把董源、范寬、李成，稱為北宋初年的三大家。董源畫草木蔥蘢、風雨迷濛的江南景色，李成畫平遠蕭疏、煙林清曠的齊魯風光，范寬則畫峰巒渾厚、勢壯力強的關中山川。三家三種風格，均有“百代標程”之譽。它標誌著中國山水畫發展到了高峰期。
李成(公元919—967年)字咸熙，唐宗室後裔，長安人，五代時避亂流寓北海營丘(今山東臨淄)，人稱“李營丘”。山水畫初師荊浩、關仝，後隱居山林，師法自然。他畫的平原寒林，最為瀟灑清曠。筆法灑脫，墨法精微，形成一種文秀風貌。李成的真跡在宋代已不可多見。目前，唯有現藏日本大阪美術館，與王曉合作的《讀碑窠石圖》傳為李成所作(一說為宋人摹本)。
范寬，字中立，一說名中正，華原(今陝西耀縣)人，生卒不詳，大約生活於11世紀初年。據《宣和畫譜》記載，他“風儀峭古，進止疏野，性嗜酒，落魄不拘世故”。開始學李成的畫法，後來他領悟到，繪畫不能單純摹仿別人，而應面向大自然，表現畫家的主觀感受與情思。於是，他遷居於終南、太華諸山，深入觀察四時景物在日月陰晴、雲霧雨雪中的變化，有感於心，便發於筆端，終於創造出自己的獨特風格。
范寬的傳世作品有《溪山行旅圖》、《雪山蕭寺圖》、《雪景寒林圖》、《臨流獨坐圖》等。 《溪山行旅圖》是他的代表作。徐悲鴻曾說：“中國所有之寶，故宮有其二，吾所最傾倒者，則為範中立《溪山行旅圖》。大氣磅礴，沉雄高古，誠辟易萬人之作。”
《溪山行旅圖》高206.3厘米，寬103.3厘米，現藏台北故宮博物院。圖中正面有一大山突兀而起，巍峨雄峻，密林佈於峰頂，更增加其蒼茫渾厚之感。飛流如線，千尺直下。山嵐霧靄迴盪於峰巒丘壑之間，拉開了主峰與近景的距離。細觀近處，大石盤結，古木蔥鬱，幽暗中見層層深厚。山溪如注，從磐石中汩汩而出。行人趕著馱運貨物的馬匹，在起伏蜿蜒的山路上行進，他們的出現，不僅襯託了山川的雄奇，也給畫面增添了活潑的氣氛。
《溪山行旅圖》的特色有三。一是採取全景式近鏡頭構圖，讓主峰正面矗立，佔據整幅畫面的2/3，造成視覺上的逼人之勢。其二，用筆堅實有力。山石樹木，全用短條子皴和點簇、搶筆(一種用筆的方法，由蹲而斜上急出為搶)之法畫成。筆筆嚴謹、紮實，不加渲染，成功地表現出山石質地的堅硬感，真實地再現了北方山水雄強、蒼勁之風神。其三，巧妙地利用細節描繪，如山溪、馱馬、行人等，創造了一種可觀、可遊之情境，使觀者如聞其聲，如臨其境。宋代畫家文同看了范寬的畫曾這樣描述他的感受：“孤峰露蒼骨，疏木聳堅幹，高堂掛虛壁，爽氣來不斷。”
北宋中晚期，著名的山水畫家還有郭熙、王詵〔shen申〕、米氏父子和王希孟等。
郭熙(公元1023—約1085年)字淳夫，河南溫縣人。宋神宗時入宮為畫院藝學，因畫藝超群，後升至翰林待詔直長。畫山水師法李成，又能博採眾長，奠定了他個人風格的基礎。與此同時，郭熙又十分注重觀察自然山川的四時變化和晨昏景色給人的獨特感受。他還極為重視營造畫面意境，因之在他的筆下，無論是高山峻嶺的長篇巨制，還是樹石歷歷的平遠小景，都是優美的“可遊可居之境”，表現出當時文人渴慕林泉、與自然相親的思想意願。郭熙早年畫風細緻秀美，晚年趨於雄壯。畫山石多用“卷雲皴”和“鬼臉皴”，畫樹枝如蟹爪下垂，筆勢雄健。郭熙不僅能畫，還深入研究畫理。他的繪畫主張和實踐經驗，由其子郭思整理成書，名曰《林泉高致集》。全書分水訓、畫境、畫訣、畫題、畫格拾遺、畫記六篇，是中國最重要的山水畫理論著述。其中涉及到人與自然的關係，畫家人格的修養和如何創造生動優美的意境、山水畫的章法結構、筆墨技巧等多方面的問題。如，高遠、平遠、深遠的“三遠”理論以及“春山淡冶而如笑，夏山蒼翠而如滴，秋山明淨而如妝，冬山慘淡而如睡”等精彩論述，對後代山水畫有很大影響。
郭熙的現存作品有《早春圖》、《窠石平遠圖》、《關山春雪圖》等。現存台北故宮博物院的《早春圖》，縱158厘米，橫108厘米，畫於1072年。氣勢之雄偉可與范寬的《溪山行旅圖》並駕齊驅。其中勃發湧動的情致，又是范寬作品中所沒有的。它描繪早春時節的清晨山景。還未散盡的霧靄，輕輕地浮動於山巒之間。還不曾發芽的樹木，舒展著枝椏，似乎在等待著和煦的陽光。山石被不知來自何方的神秘之光照亮，於明暗閃爍中，產生一種升騰欲動的感覺。山溪涓涓，淺水潺潺，又有行旅待渡的人物穿插其間，於清秀潤澤中，表現出萬物复甦，一片欣欣向榮的景象。
米氏父子的山水畫，別開生面，更富文人情趣。米芾〔fu浮〕(公元1051—1107年)，字元章。祖籍太原，後遷居襄陽。宋徽宗時曾為畫學博士，官至禮部員外郎。其子米友仁(公元1074—1153年)，字元暉，高宗時官至工部侍郎、敷文閣學士。米氏父子畫山水宗法董源，又根據自己對江南山水的獨特感受，信筆劃去，不求工細。以濃淡不同的墨點，表現煙雨迷濛的意趣。他們不再以形象的真實感作為繪畫的宗旨，正所謂“至兩米而畫法大變，蓋意過於形”。疏鬆、灑脫的“米點”皴不僅是水墨山水畫技法上的一種變異，還開創了文人畫的一代新風。可惜，米芾山水畫的真跡已不存。米友仁的傳世作品尚有《瀟湘奇觀圖》(藏北京故宮博物院)、《雲山圖》(藏日本大阪市美術館)。
在宋代，承襲李思訓格體的青綠山水畫，最出色的作品是王希孟的《千里江山圖》。此圖縱51.5厘米，橫1191.5厘米。現藏北京故宮博物院。畫中山巒起伏，江河浩蕩，在將近12米的長卷上展現出千里山河的遼闊和壯美。山水之間有村落房屋、橋樑樓閣、漁舟客船、飛鳥車馬、行人漁夫，內容豐富而有情趣。畫家將這些景物安排得高低得當、遠近相間，虛實相生、濃淡相宜。雖然以鮮豔的石青石綠染色，但凝重而不浮艷。總體看青山綠水開闊遼遠，氣勢非凡，局部看山水樹石、人物馬匹又刻畫得十分精細入微。尤其是那波光粼粼的河水，描繪得很有光感，似乎這一切都沐浴在和煦的春風和明媚的陽光中。
此圖原無作者款印，從後紙隔水上當時宰相蔡京的一段題跋可知，這幅畫是政和三年(公元1113年)四月八日皇帝賜給蔡京的。作者是畫院學生王希孟。題中記云：“希孟年十八，昔在畫學為生徒，召入禁中文書庫，數以畫獻，未甚工。上(指宋徽宗)知其性可教，遂誨諭之，親授其法，不逾半歲，乃以此圖進，上嘉之，因以賜臣京，謂天下士在作之而已。”據說，王希孟完成此圖後不久便病死，只有此一件巨制傑構留傳於世。
山水畫發展到南宋，又獲得了新成就。畫史稱“劉、李、馬、夏又一變也”，指的就是劉松年、李唐、馬遠、夏圭這四個南宋畫家對山水畫的突破和變異。馬遠的《踏歌圖》可看作這種新風格的代表作。
《踏歌圖》是一幅有人物情節的山水畫，高191.8厘米，寬104.5厘米，現藏北京故宮博物院。此圖上半部畫數峰峭拔，古木參差，都門遙遙，雲煙掩映。近處的山灣里，巨石堅硬，草木初榮，柳枝挺拔，新篁〔huang皇〕搖曳，溪水潺潺，小路彎彎。田壟溪橋邊，有幾個農民歡娛地踏著節拍，邊走邊唱。他們似乎有幾分醉意，前面的一個鬚髮花白，手拿短杖作回頭狀，似與橋上那個右腿抬起，雙手打著節拍的農民相互唱和。後面兩人也合拍而歌。在田壟的前方，有兩村童回頭看著他們，頑皮地嬉笑。如此這般的快樂，是去參加節日的盛會，還是酒足踏歌而歸？此圖上方有“宿雨清畿甸，朝陽麗帝京。豐年人樂業，壟上踏歌行”的題句。傳為宋寧宗的皇后“楊妹子”所書。這顯然是帝王們以此來標榜南宋偏安一隅的繁榮太平，畫面上洋溢著歌舞昇平的歡樂氣氛。
《踏歌圖》在構思、構圖以及筆法、墨法上都很有特色。首先，它不像其他山水畫那樣將人物畫得很小，只起點綴作用，在人物的處理和刻畫上，功力頗深。筆墨簡練，但動態神情卻具體生動，並與奇峰異景相呼應，創造了一種歡樂、融洽的有情之境，將描寫山水與表現世情風俗巧妙地結合在一起。在構圖上，一改北宋大山大水的全景式構圖方式，擇取大自然中最美的一角，提煉概括，精心安排，著意刻畫，並十分注重空間的處理。畫中遠景簡淡清曠，中景和近景則結實凝重，對比強烈，顯示出無限廣闊的空間意象。在用筆運墨方面，也改變了北宋山水畫多用的“短條子”、“搶筆”的皴法，而以水墨蒼勁的“長斧劈皴”和起筆方平、收筆尖長的“釘頭鼠尾”皴畫山石，線面並重，層次分明，似有光感，成功地表現出浙西南一帶峭拔堅硬的山石特色，給觀者一種鮮明、爽快、剛健蒼勁之感。
馬遠，字遙父，號欽山。祖籍河中(今山西永濟縣)，生長在錢塘(今杭州)，生卒不詳，公元1190—1224年為南宋畫院待詔。其祖父、伯父、父親、兄弟都是畫院畫家。馬遠承其家學，以擅長山水、人物、花鳥獨步一時。他的突出成就是能取各家之長，結合自己對大自然的觀察與生活感受，創造了山水畫的一種新語彙和新格局。其畫風對後代，尤其是明代的浙派產生了深刻影響。馬遠的傳世作品還有《水圖》、《雪圖》、《樓台夜漁圖》、《寒江獨釣》、《探梅圖》等。