劉淵做了漢王以後，一面加緊備戰，準備征討晉朝，一面也是努力收羅人才，他手下有兩個人，一文一武，十分有名，一個是匈奴後部陳元達，另一個便是劉淵的族子建武將軍劉曜。
陳元達出身十分貧寒，但卻“少有志操”，自小便是一邊種田，一邊讀書，很有些才華。但他一直到四十歲時，也很少與外界交流，更談不上取得什麼成就。
劉淵做左賢王之時，便聽說此人的才能，要招他為官（晉朝的時候可還沒有什麼科舉考試，官吏除了世襲以外，就主要是沿襲漢代實行的“察舉徵辟”制度，在魏晉時期，這一制度由於“九品中正制”的推行並不盛行），陳元達沒有答應。
待到劉淵做了漢王，有人就問元達：“從前劉公地位不高之時招你去，你卻蔑而不顧，如今做了漢王了，怎麼樣，你怕不怕呀？”
陳元達淡淡一笑，道：“這是什麼話？此人資度非凡，有包容宇宙之志，我知道這些很久了。當初我之所以不去，只是他的時運未到，我可做不到整天沒事的時候就在他身邊嘮裡嘮叨的，劉公也必知我心。你看著吧，我料不出兩三日，他的書信必到。”
果然當天晚上，劉淵便派人來招陳元達做黃門郎（相當於高級秘書，出謀劃策的人物）。原先那個挖苦他的人不禁驚嘆道：“您也太神了吧！”
陳元達來到劉淵帳中，劉淵埋怨他說：“卿若早來，豈為郎官而已。”
陳元達答道：“我以為人之才能，各有其'分'，任人過'分'就本末倒置了。我若早來，恐怕大王就得賜我做個九卿、納言什麼的，這些都不是我的'分'，我豈能承擔？所以我一直靜待時機，等到我的'分'到了，我自然會來，這樣大家都可免去可能的麻煩，不是很不錯嗎？”劉淵大喜。 （人需有自知之明，陳元達知道自己能做好什麼，做不好什麼，發揮自己最擅長之處，可謂高人一等，我以為他的話值得我們多多回味。）
劉曜是劉淵的族子。他從小是個孤兒，劉淵養之為子。這小子從小就有過人之處，八歲的時候，跟隨劉淵出外打獵，遇到大雨，便在大樹下避雨，忽然一個驚雷打來，眾人無不趴下，唯有劉曜神色自若。連劉淵也驚嘆道：“這個孩子可是我家的千里馬呀！”心想僅就這些表現來看，前途不可估量啊。
劉曜武藝十分了得，且箭法精準，射鐵而透之，當時人稱“神射”，他又常常自比樂毅、蕭曹（看來這些可不是諸葛孔明的專利），時人都不以為然，唯獨劉淵之子劉聰總是說：“永明（劉曜的字）乃是劉秀、曹操那樣的人物，樂毅、蕭曹何足道哉？”
劉曜性情孤高，甚不合群，年輕時常常浪跡天涯，二十歲時他在洛陽犯了案子，便亡命到朝鮮，幸好碰上天下大赦，才重新回到中原。
劉曜自覺性情與眾不同，恐怕不容於世，便隱跡於管涔山，終日以琴、書二物為友。一夜在山中，忽見兩個童子走上前來，說道：“管涔王命我們拜見趙國皇帝，獻劍一口。”兩人置劍而去。劉曜秉燭觀之，但見此劍身長二尺，光澤異常，劍鞘以赤玉所飾，背上有銘道：“神劍禦，除眾毒。”這把劍還可以順應四季的溫度氣候改變顏色，劉曜認定是件寶物，於是就把它佩在身上。 （此段故事似有武俠小說之風，頗類老金慣用之“風格”，《晉書》裡如此風格的奇聞軼事還有不少，大部分都屬於一家之言的道聽途說，這也使《晉書》作為一本正史而頗受人詬病，不過從閱讀的角度看，多一些這樣有趣離奇的記錄也為平淡的史實頗添了幾分色彩。）
像陳元達、劉曜這樣的人才在劉淵手下為數不少，二人並不是鳳毛麟角。劉淵對於前來投奔他的人士，一概論才任賢，因此劉淵的勢力在河東一帶不斷壯大，也絕非偶然。
此時本已亂成一團的中原晉朝，見又有人叛亂，便派人討伐。司馬騰派遣部下聶玄攻打劉淵，兩軍大戰於大陵，聶玄的軍隊被打得大敗，司馬騰率并州的二萬餘戶逃往山東，劉淵派遣劉曜和冠軍將軍喬晞乘勝攻下太原、長子、介休等多處并州要地。這過程中還發生了一支小插曲：喬晞攻入孤城介休時，介休縣令賈渾拒不投降，被喬晞所殺。喬晞見賈渾的妻子宗氏年輕美貌，起了歹心，要納她為妾，宗氏執意不從，一面痛哭死去的夫君，一面破口大罵喬晞是欺男霸女的“屠各奴”（劉淵的部族又稱屠各，因此被漢人蔑稱為“屠各奴”），罵得喬晞惱火，把她也給殺死了。這事傳到劉淵耳中，他勃然大怒，說：“假若天道有知，喬晞這龜孫子一定斷子絕孫！”當下命令厚葬賈渾夫婦，又把喬晞降秩四等，以儆效尤。介休一帶的百姓，懷念賈渾夫婦忠貞不屈，至今仍闢有供奉他們的殿堂，稱為龍天殿。劉淵的這番追尊忠臣的舉動，雖不免帶有“亂臣賊子”做秀的成分，但也可以反映出劉淵在這一時期是非常看重民心向背的。
第二年（公元305年），不甘失敗的司馬騰又遣司馬瑜、周良、石鮮等將進攻劉淵，兩軍相遇在離石汾城一帶，劉淵以武牙將軍劉欽等人率領匈奴各部精銳騎兵全力拒敵，再一次將毫無鬥志的晉軍打得潰敗而逃。劉淵在并州與司馬瑜的軍隊一共交戰四次，連戰連勝，打得晉軍一時無法再組織起抵抗力量，這不但振奮了匈奴各部的士氣，也大大鼓舞了天下亂民的信心，全國各地的反叛浪潮愈發猛烈。以流民起義起家的蜀中李氏，此時更是不滿足於剛剛自封的成都王的地位，而欲稱帝了。我們暫且按下劉淵不提，來看一看十六國中第二個國家——李氏的成國，是如何發蹟的吧。