我國陰陽五行的源頭，可以追溯到傳說中的大禹時代。據說治水英雄大禹率先打破了“禪讓製”，把王位交給兒子啟。同姓諸侯有扈氏不服，起兵造反。啟於是率大軍親征有扈氏的大本營甘(今陝西戶縣西)，臨戰前召集六軍將領說：
“有扈氏威侮五行，怠棄三正。天用剿絕其命。今予惟恭行天之罰。”
這段話，見載於《尚書·甘誓》，歷史學家們推測在公元前2196年。這裡的“五行”，大致就是今天我們所知道的金、木、水、火、土五物；“三正”，大致是與五行有關的正德、利用、厚生三政事。到了戰國時代，“五行”又增加了“相生相勝”的哲學成份。
五行說是講宇宙構成的元素的，即認為世界萬物是由水、火、木、金、土五種物質元素構成的。據《國語》記載，“和”與“同”是不同的，前者是一種元素與另一種元素參合，能產生新的東西並能得到發展；後者是同一種元素相加，不能產生新物，也不會有所發展。所以，要把土與金、木、水、火雜和起來，才能生成百物。這裡的五行，突出了土的作用，既反映了重視農業的思想，也是對五行並列觀念的修正。
至於陰陽，則是對自然狀態的一種描述，對世界的一種看法。是古人在觀察天文氣象、時節變化的基礎上萌發的。週人用兩種不同性質的陽氣和陰氣來解釋四季的變化和萬物的繁茂與凋衰。他們認為，在冬去春來之際，氣從地下向上蒸發，萬物便出苗生長；如果沉滯不能蒸發，農作物便不能茁壯成長。陰氣的性質是沉滯下降的，陽氣的性質是蒸發上升的，這陰陽二氣相互協調，配合有序，流轉正常，就風調雨順，否則就要發生災難。週幽王時的伯陽父，曾用陰陽二氣的失調來解釋當時發生的地震現象。他認為，陰陽二氣的流轉是有一定的秩序的，如果發生秩序紊亂的現象，陰陽二氣就各失其位，就要產生地震。
說“萬物負陰而抱陽”，就是說，陰陽的矛盾勢力是事物本身所固有的。 《易傳》的作者則進一步提出“一陰一陽之謂道”的學說，把陰陽交替看作是宇宙的根本規律。後來，古人對各種現象進行抽象概括，以陽代表天、日、晝、暑、剛、強、前、男等，以陰代表地、月、夜、寒、柔、弱、後、女等，認為兩種勢力相互對立和依賴，是事物固有的屬性，是引起事物變化發展的原因。
陰陽五行說是中國傳統文化的一個特色，對中國古代的學術和日常生活都產生了一定的影響。例如古人取名也要照顧到五行協調齊全。
把陰陽與五行撮合在一起並加以神秘化的，是戰國末期的陰陽家，其代表人物為齊國人鄒衍。他提出“五德終始”說，把五行的屬性稱為“五德”，用來附會王朝興替和社會政治的擅替。漢儒們出於政治需要，在將古代的神權理論結合在一起的同時，又大規模地興起造神運動，使原來的天地鬼神信仰增補進新的內容。