2003年夏，吳建民大使奉命回到國內，旋即被任命為外交學院院長。儘管這個職位適合吳大使，但多少有些出乎人們的預料。
中共中央決定由吳建民主持外交學院自有一番考慮：外交學院是外交部所屬的培養外交外事人才的高等學府，被稱為外交官的搖籃。當年毛澤東出於戰略考慮創辦這個學院並對它十分關愛，寄予厚望；從毛澤東、周恩來到鄧小平、江澤民、胡錦濤，每一代領導人都把它看作中國外交的“風水寶地”，倍加呵護，因此學院的級別也很高。從這個意義上說，吳建民就任院長，以加強學院的工作顯然表明中央高層對他的格外器重。從外交學院歷任院長也可看出，凡是能坐上這個位置的都是中國外交界的風雲人物。學院成立後，首任院長就是當時擔任國務院副總理兼外長的陳毅元帥，在此位10餘載。後來擔任此職的如：曾任駐土耳其、坦桑尼亞、埃及大使的開國少將劉春，曾任外交部西亞北非司司長、中國駐比利時兼盧森堡大使兼常駐歐洲共同體使團團長、中國駐日本大使的外交家章曙，曾任外交部副部長的楊福昌等，哪一個不是外交界的重量級人物？
中央對吳建民的關注，自然是與吳建民在擔任外交部發言人時表現出的機智和冷靜的處事風格分不開的，也是與他在日內瓦人權會議的有理有節的論辯藝術，尤其是他在任駐法大使時的務實的外交思路分不開的。如果說新聞發布會上的精彩是因為吳建民的機智聰明，如果說日內瓦人權會議上的勝利有著集體力量的支持，那麼他為中法兩國關係的發展所做的工作是沒有任何捷徑可走的。
1998年，吳建民出使巴黎時，中法兩國領導人的私人友情尚未真正建立起來。 “八九風波”後，法國是第一個採取孤立中國政策的西方國家，爾後又向台灣出售武器，中法關係十分緊張。後來巴拉迪爾政府上台後重新調整對華政策，才使中法關係得到了一些改善，但中法兩國政府和人民之間的交流依然沒有進展。儘管1995年希拉克當上總統後採取進一步接觸中國的政策，重視與中國的關係，並於1996年和1997年兩度訪華，與江澤民主席有過多次會談，但兩國的外交關係還不是十分牢固，兩國領導人的親密關係似乎也只是面子上的。這其中的原因，一是政治基礎的差異；二是中法文化溝通不多；三是中法兩國的經貿水平上不去；四是中法民間交流太少。
吳建民到任後，在以上幾個方面實實在在地做了很多工作。他廣泛接觸法國各階層人士，利用一切可以利用的場合解釋中國的外交政策，宣傳中國改革開放的驕人業績，真是通之以情，曉之以理，不厭其煩，使法國從政府到民間都慢慢改變了對中國的看法。據不完全統計，僅在吳建民到任的1年半內，他就接受新聞媒體採訪近50次，出席和參加午餐會、報告會、辯論會等活動對外講話20多場。
有一次《巴黎競賽畫報》邀請吳大使和當時的社會黨政府衛生部長貝爾納·庫什內共進午餐，討論人權問題。庫什內是“無疆界醫生”的創始人，所謂的“人權鬥士”，在法國威信很高。他因滑雪摔傷了腿，是拄著拐杖來的。他們的討論圍繞中國的人權狀況、民主和西藏問題展開，談了兩個多小時。
庫什內一來就說中國人權狀況不好。不過他承認沒有去過中國，有關中國的知識都是從書本上得來的。
吳建民說，僅根據書本知識來做結論，可能是“瘸腿”的。接著，吳建民援引歷史、現實的例子以及大量數據來反駁庫什內的論點，最後庫什內不得不承認中國人權狀況有進步。
吳大使告訴庫什內，今天西方有些人像教師爺一樣給中國上人權課，中國人很反感。他告訴庫什內，在中國國內常有人提出這樣的問題，過去當中國人挨餓時，當英法聯軍火燒圓明園時，沒有人跟我們講人權，今天中國人站起來了，經濟發展了，他們來給我們上人權課了，他們究竟是為了維護人權，還是有別的什麼目的？短短幾句話，使庫什內頓時啞口無言。
這個談話內容後來發表在《巴黎競賽·中國特刊》上，在法國引起強烈反響，雜誌銷出了10萬份，從此庫什內也和吳建民成了朋友。
2001年申奧，北京和巴黎是競爭對手。 7月13日中午，巴黎大區議會主席舉行冷餐會，請各界人士收看國際奧委會投票實況直播，吳建民大使也接到邀請。當吳建民出現在招待會會場時，法國人很驚訝。有人說：“你為什麼敢來？要是中國輸了呢？”吳建民以輕鬆的語調說：“如果巴黎贏了，我祝賀你們；如果北京贏了，你們祝賀我。”當天晚上他共接受了14次採訪。法國人似乎很樂意接受這樣一個平和而有頭腦的中國外交官。
法國民眾對中國的友好態度將會使政府的對華政策產生影響。所以，如果說希拉克在1997年時對發展中國關係還可能面臨著法國民眾的壓力，那麼當他2000年踏上江澤民主席的故鄉揚州土地的時候，已沒有什麼壓力了。
也正在這樣一個和諧的氣氛中，吳建民才會有信心巧妙地設計中法兩國領導人互訪的行程從各自的家鄉開始。
吳建民靈活的外交技巧和務實的作風在2003年胡錦濤主席訪問埃維昂時再次得到證實。儘管那次吳建民與胡錦濤主席的接觸時間不長，但還是讓胡主席更相信了自己對吳建民的認定。
已經到任的外交學院院長吳建民並沒有“養老”的意思，那不是他的風格。自他上任的第一天起，他就著手總結中國歷年的外交經驗，研究對外政策。最近他在媒體上談及中國在2003年的外交特色時，表達對中國日益注重的“主動式外交”的興趣。他認為，中國外交近來的一個明顯特點是從過去的“反應式外交”轉變為更多的“主動式外交”。如溫家寶總理在國內SARS疫情高度危急的時刻緊急出訪泰國，出席中國—東盟國家首腦防治SARS特別高峰會議，在危難時刻扭轉了中國與東盟的關係，使同樣遭受SARS打擊的東盟國家再次感到中國是本地區高度負責任的國家。另外，中國在化解朝核危機中的表現以及及時發布《中國對歐盟政策文件》，都表明主動外交的成功。在吳建民看來，中國外交的新特點顯示“中國新一屆政府和領導人善於化挑戰為機遇”。
人們注意到，吳建民的職務變動更凸顯了他的外交智囊角色。