線性方程組解法，《九章》稱為方程術，劉徽指出這是一種普遍方法，只是方法太複雜，才借助禾實來闡述。方程術的核心是通過直除法消元，逐步減少未知數的個數及方程的行數，最終消成一行一個未知數，然後再求第二、第三個未知數。所謂直除即直減：要消去乙行某未知數係數，便用甲行同一未知數的係數乘乙行所有的數，然後用甲行一次次對減乙行，直至乙行該係數為零。劉徽認為，用甲行某未知數係數乘乙行是齊，即使乙行所有項與欲消去的項相齊；用甲行對減乙行至該係數為零止是同，即使甲、乙兩行的該未知數係數相同。就是說，直除法符合齊同原理。劉徽進而指出，“舉率以相減，不害餘數之課也。”(《九章算術·方程章註》)就是說，以方程的整行與另一行相減，不影響方程的解。這是方程消元法的理論基礎。我們以《九章》方程章第1問為例說明之，並改用阿拉伯數字。以(1)式x的係數3乘(2)式各項，得
6x+9y+3z=102 (4)
以(1)式兩次減(4)式，得
5y+z=24， (5)
以(1)式x的係數3乘(3)式，得
3x+6y+9z=78， (6)
以(1)式減(6)式，得
4y+8z=39， (7)
其方程如(b)所示。以(5)式y的係數5乘(7)式，得20y+40z=195，以(5)式四次減之，得36z=99，以9約之，得4z=11。
其方程如(c)所示。然後，用代入法，將中行與右行分別化成4y=17，4x=37，其方程如(d)所示。於是。可以看出，上述運算完全符合現代數學的矩陣理論：
《九章》方程術是世界上最早最完整的線性方程組解法。在國外，它最早出現在7世紀初印度婆羅門笈多(約公元598-？)的書中。在歐洲，則是法國數學家布丟在1559年提出的，比《九章》晚七八百年到1700年。