經過盛唐的大發展，唐中葉之後，生產關係和社會各方面逐漸產生新的實質性變革，到10世紀下半葉，趙匡胤建立宋朝，統一中國，中國封建社會進入一個新的階段，土地所有製以國有為主變為私有為主，租佃農民取代了魏唐的具有農奴身份的部曲、徒附。農業、手工業、商業和科學技術得到更大發展。中國古代四大發明，有三項——印刷術之廣泛應用及活字印刷，火藥用於戰爭，指南針用於航海——完成於唐中葉至北宋。宋秘書省於元豐七年(公元1084年)首次刊刻了《九章算術》等十部算經(時《夏侯陽算經》、《綴術》已失傳，因8世紀下半葉一部韓延《算術》開頭有“夏侯陽曰”云云而誤認為是前者而刻入，後者只好付之闕如)，是世界上首次出現的印刷本數學著作。後來南宋數學家鮑澣之翻刻了這些刻本，有《九章算術》(半部)、《周髀算經》、《孫子算經》、《五曹算經》、《張丘建算經》五種及《數術記遺》等孤本流傳到現在，是目前世界上傳世最早的印刷本數學著作。宋元數學家賈憲、李冶、楊輝、朱世傑的著作，大都在成書後不久即刊刻。數學著作借助印刷術得以空前廣泛的流傳，對傳播普及數學知識，其意義尤為深遠。
宋元數學高潮早在唐中葉已見端倪。隨著商業貿易的蓬勃發展，人們改進籌算乘除法，新、舊《唐書》記載了大量這類書籍，可惜絕大多數失傳，只有韓延(生平不詳)《算術》(8世紀)以《夏侯陽算經》的名義流傳下來，該書提出了若干化乘除為加減的捷算法，並在運算中使用了十進小數，極可寶貴。
11世紀上半葉賈憲(生平不詳)撰《黃帝九章算經細草》，是為北宋最重要的數學著作。賈憲曾任左班殿直(低級武官)，是當時著名天文學家、數學家楚衍的學生。還著有《算法(學攴)古集》二卷，已佚。他將《九章算術》未離開題設具體對象甚至數值的術文大都抽象成一般性術文，提高了《九章算術》的理論水平；他對某些類型的數學問題進行概括，比如提出開方作法本源即賈憲三角，作為他提出的立成釋鎖(即開方)法的算表，這是開方問題的綱；他提出了若干新的重要方法，其中最突出的是創造增乘開方法，並提出了開四次方的程序。賈憲的思想與方法對宋元數學影響極大，是宋元數學的主要推動者之一。 《黃帝九章算經細草》因被楊輝《詳解九章算法》抄錄而大部分保存了下來(闕卷一、二及卷三上半部，卷五的一部分)。
大科學家沈括(公元1031—1095年)對數學有獨到的貢獻。在《夢溪筆談》中首創隙積術，開高階等差級數求和問題之先河，又提出會圓術，首次提出求弓形弧長的近似公式。
12世紀北宋劉益(生平不詳)撰《議古根源》，亦失傳。楊輝《田畝比類乘除捷法》引用了它的若干題目與方法。 《綴術》失傳之後，開方式的係數仍皆為正數，劉益突破了這個限制，首先引入負係數方程，並創造了益積開方術與減從開方術求其正根，楊輝譽之為“實冠前古”。
1127年金朝入主中原，趙宋南遷，史稱南宋。 1234年，蒙古貴族滅金，後來建立元朝。 1279年元滅南宋，統一全國。 13世紀中葉至14世紀初，是宋元數學高潮的集中體現，也是中國歷史上留下重要數學著作最多的半個世紀，並形成了南宋統治下的長江中下游與金元統治下的太行山兩側兩個數學中心。
南方中心以秦九韶、楊輝為代表，以高次方程數值解法、同餘式解法及改進乘除捷算法的研究為主。北方中心則以李冶為代表，以列高次方程的天元術及其解法為主。元統一中國後的朱世傑，則集南北兩個數學中心之大成，達到了中國籌算的最高水平。
1247年秦九韶撰成《數書九章》18卷。秦九韶，字道古，自稱魯郡(今山東省)人，約1202年生於普州安岳縣(今四川省)。他生活在宋元激烈鬥爭的南宋末年，並捲入了南宋統治集團戰和兩派的鬥爭，支持抗戰派吳潛，屢遭劉克莊等人彈劾。賈似道專權後被貶到梅州(今廣東省)，不久(約公元1261年)死於任所，並在死後被追隨賈似道的周密醜詆不堪。他天資聰明好學，對數學、天文、土木建築、詩詞、音律、弓馬等都十分精通。他多次呼籲統治者施仁政，並把數學知識看成開源截流、施仁政、利國利民的有力工具。 《數書九章》分大衍、天時、田域、測望、賦役、錢穀、營建、軍旅、市易九類81題，其成就之大，題設之複雜都超過以往算經，有的問題有88個條件，有的答案多達180條，軍事問題之多也是空前的，反映了秦氏對抗元戰爭的關注。大衍總數術系統解決了一次同餘式組解法；正負開方術把以增乘開方法為主導的求高次方程正根的方法發展到十分完備的程度，有的方程高達十次；線性方程組解法完全以互乘相消法取代直除法；提出了與海倫公式等價的三斜求積公式；使用了完整的十進小數表示法，等等，都是其傑出成就。
楊輝共撰五部數學著作，傳世的有四部，居元以前數學家之冠。楊輝，字謙光，錢塘(今杭州市)人，生平不詳，只知在今江浙一帶管錢糧，為政清廉。與其他大家比較，他的著作偏重於教育與普及。 1261年，楊輝在劉徽注、李淳風等註釋、賈憲細草的《九章算術》基礎上作解題、比類，並補充了圖、乘除、纂類三卷，是為《詳解九章算法》，今圖、乘除、方田、粟米、衰分上半部、商功之一部分已佚。商功章的比類中的垛積術發展了沈括的隙積術；“纂類”則打破了《九章算術》的分類格局，按方法分成乘除、互換、合率、分率、衰分、疊積、盈不足、方程、勾股九類。 1262年又撰《日用算法》，著重於改進乘除捷算法，只有少量題目保存下來。 1274年撰《乘除通變本末》三卷。卷上的“習算綱目”是一個從啟蒙到《九章》主要方法的數學教學計劃。本書還總結了九歸等乘除捷算法及其口訣。次年編纂《田畝比類乘除捷法》二卷，引用了劉益的方法與題目，批評了《五曹算經》四不等田求法的錯誤。同年，編纂《續古摘奇算法》二卷，對縱橫圖即幻方研究頗有貢獻。後三部書又常合稱為《楊輝算法》。
十二、十三世紀，北方出現了許多天元術著作，大都失傳，流傳至今的最早的以天元術為主要方法的著作是李冶的《測圓海鏡》12卷(公元1248年)、《益古演段》三卷(公元1259年)。李冶(公元1192—1279年)，字仁卿，號敬齋，真定欒城(今河北省)人，生於大興(今北京市)。其父為官清廉正直，李冶自幼受到良好的教養，且愛好數學，青年時便成為名重中原的學者，金詞賦科進士。入元，遂隱居於忻、崞〔guo郭〕(今山西省北部)一帶，在極為艱苦的條件下研究數學及各種學問，常粥饘〔zhan氈〕不繼，而聚書環堵。 1251年起，主持封龍書院(今河北省)。 1257、1260年兩次受到元主忽必烈召見，發表了立法度，正綱紀，進君子，退小人，減刑罰，止征戰，反對種族偏見的政治主張。他被聘為翰林學士。然而他羞於作唯天子、宰相之命是聽的御用文人，不久便以老病為辭回到封龍山。他一生文史著述頗多，僅存《敬齋古今黈》。 《測圓海鏡》在洞淵九容基礎上考慮了勾股形與圓的10種基本關係，在卷二一十二中就15個勾股形與圓的關係提出了170個求圓徑長的問題，答案當然都相同。這些問題大都要用天元術列出方程。卷一是全書的理論基礎，包括圓城圖式、識別雜記等部分。圓城圖式以天、地、乾、坤等漢字表示點，是個創舉。識別雜記提出692條公式，除八條外都是正確的，集歷代勾股形與圓的關係研究之大成。 《益古演段》64問，這是一部用天元術闡釋蔣週(可能是北宋人)《益古集》的方程列法的著作。其中保存了《益古集》的若干題目和舊術(方法)。
朱世傑有兩部重要著作《算學啟蒙》(公元1299年)、《四元玉鑑》(公元1303年)傳世。朱世傑，字漢卿，號松庭，燕山(今北京市)人，生平不詳。他在13世紀末以數學名家周遊全國20餘年，向他學習數學的人很多。 《算學啟蒙》20門，259問，包括了從乘除及其捷算法到增乘開方法、天元術等當時數學各方面的內容，形成了一個較完整的體系。 《四元玉鑑》24門，288問，卷首給出古法七乘方圖(改進了的賈憲三角)等四種五幅圖，以及天元術、二元術、三元術、四元術的解法範例。創造四元消法，解決了多元高次方程組問題，以及高階等差級數求和問題，高次招差法問題，是本書最大的貢獻。此書是中國古代水平最高的數學著作。
楊輝、朱世傑等人對籌算乘除捷算法的改進、總結，導致了珠算盤與珠算術的產生(大約在元中葉)，完成了我國計算工具和計算技術的改革。元中後期，又出現了《丁巨算法》、賈亨《算法全能集》、何平子《詳明算法》等改進乘除捷算法的著作。