就在上海戰事正酣，蔣介石鐵定了心要與日軍決一雌雄之際，南京國民政府開始設法動用運輸力量，把國家珍藏的寶器、工業設施、戰略物資和科研設備，經長江、隴海鐵路和各條公路悄悄運往內地，以保存實力，長期抗戰。與此同時，根據國民政府的命令，中央研究院各研究所與平津兩地大學也開始向長沙與西安一帶遷徙。
決策既定，傅斯年立即指示中央研究院各所捆紮物資儀器，打點行裝，準備起程。
早在淞滬戰事爆發前，中央研究院史語所考古組已根據戰局演變，在富有遠見和責任心的李濟指揮下，開始對歷次發掘的器物和各種器材打包裝箱，準備內遷。據史語所《大事記》民國二十六年七月條：“本所隨本院西遷，先選裝最珍貴中西文圖書、雜誌及善本書共六十箱，首批運往南昌農學院，其餘一千三百三十三箱分批運長沙。但部份殷墟出土的人骨、獸骨及陶片等，限於運輸工具，暫留原址。”八月條：“本院組織長沙工作站籌備委員會，本所遷入長沙聖經學院，所長傅斯年仍留南京，派梁思永為籌備會常務委員。”
此次行動，按照史語所研究人員石璋如的說法：“因為南京離上海很近，戰事吃緊，所以先行裝箱。”在具體作業中，首先選擇重要的文物裝箱，“像骨頭就選人骨，其它部分就留下，這也是一種決定。”根據不同的情況，傅斯年與李濟、梁思永商定，已捆裝完畢的六十箱最珍貴中西文圖書及善本書等，由李濟親自負責押運到南昌農學院保存，其他一千三百多箱出土器物，陸續運到南京下關碼頭裝船，分批運往長沙，由梁思永總負其責，組織僱用船隻、運輸和安置。
就在史語所人員裝船過程中，上海戰事已到了最為酷烈和決定勝負的階段，日本飛機開始飛往南京實施轟炸。在砲火硝煙中，一批又一批滿載著成箱國寶的輪船悄然離開下關碼頭，沿長江溯水西行。史語所大部分人員連同家眷一同隨船起程，也有個別人員如那廉君、石璋如等乘火車從陸路繞道趕赴長沙。
由於從內地遷來的機關太多，整個長沙市顯得異常擁擠混亂。聖經學校是一座三層樓的建築，空間較大，且有地下室可儲藏東西與躲避敵機投下的炸彈。時北大、清華、南開三所大學的師生已陸續來到長沙，並藉用聖經學校上課，大部分房間已被三校佔據利用，中央研究院只分配到三層樓的學生宿舍及一小部分教室，史語所運來的所有箱子都放在地下室暫存。 10月之前，史語所人員一直忙於裝船運輸、搬運和整理。差不多到了10月中旬才開始安頓下來。因梁思永一直在南京組織裝船運輸，長沙的搬運工作由董作賓、石璋如等人具體實施。當梁思永隨最後一隻輪船抵達長沙並與梁思成一家見面時，已是10月上旬，這時李濟正以中央博物院籌備處主任的身份，率領部下奉命押運一百多箱國寶級文物沿長江溯流而上，艱難地向重慶行進。這批文物是此前從北平搶運出來在南京暫時收藏的。 1931年9月18日，隨著“九·一八”事變爆發，日本軍隊佔領了中國東北三省，進一步向華北地區進犯，威脅平津，中華民族進入了危難之際。鑑於清末英法聯軍佔領北京火燒圓明園，導致大量價值連城的文物遭到焚毀和劫掠的悲慘命運，考慮到北京故宮等機構保藏的文物有在戰火中被焚毀或遭日軍搶劫的可能，故宮博物院院長易培基等有識之士，電告南京中央政府，提出了盡快把文物南遷以避刀兵之災的意見。經過一番周折，終於得到國民政府批准，北平幾家存有文物的部門於1932年底商定派員精選文物，緊急裝箱南遷。除故宮博物院集中的13427箱零64包外，另有古物陳列所、太廟、頤和園、國子監，以及奉天、熱河兩行宮等處文物6066箱，由國民政府委託故宮博物院派員一起將其南遷——這便是中國近代史上著名的第一次國寶南遷大行動。 1948年底，這批寶物中的相當一部分精品隨蔣介石政府遷往台灣，成為台北故宮博物院的鎮院之寶。
由北平南遷的文物先運到上海暫存，同時利用南京朝天宮舊址，修建故宮博物院南京分院長期存放。因南京分院只能容納原北平故宮運出的文物，一同運往上海的其它部門如太廟、頤和園等原有6066箱文物無處存放，經蔡元培倡議，於1933年4月在南京成立了國立中央博物院籌備處，暫時接管這批文物。中央博物院隸屬教育部，辦公地點設在雞鳴寺路1號，在中山門半山園徵地12。9公頃，原擬建人文、工藝、自然等三大館，後因時局關係，僅建一座人文館（即後來南京博物院大殿）便倉皇撤離西遷。
中央博物院籌備處成立後，蔡元培出任第一屆理事會理事長，傅斯年為籌備主任，延請翁文灝、李濟、周仁分別為自然館、人文館和工藝館籌備主任，並確立了“提倡科學研究，輔助公眾教育，以適當之陳列展覽，圖智識之增進”的宗旨。同年10月，國民黨中央政治會議第377次會議作出決議，將北平古物陳列所（南按：1914年袁世凱政府設立）遷到南京的文物撥付給中博籌備處。 1936年，再度把原國子監（南按：1911年成立的北平歷史博物館所在地）、頤和園等處遷往南京的文物，全部撥付給中央博物院籌備處保存。這兩批文物入庫，不但成為正處於襁褓中的中央博物院籌備處藏品的基礎，同時也奠定了日後在文博界舉足輕重的大腕級地位。
除政府明令撥發的南遷文物，中博籌備處自成立之始，就有建成一個名至實歸的國家乃至世界級博物院的構想，於是開始從私人收藏家手裡徵集文物。 1933年10月，在蔡元培、葉恭綽、李濟等人的共同努力下，以3。4萬元的價格，購進了閩侯何敘甫繪園古物2000餘件。再後來，隨著不斷收購、撥交和派員主動到田野進行考古發掘，中央博物院籌備處很快集中起全國第一流珍品約三十萬件，其中包括繪畫中的《歷代帝后像》、《唐明皇幸蜀圖》；銅器中聞名中外的《毛公鼎》等稀世珍寶。 1934年7月，中博籌備處主任傅斯年因兼職過多，決定辭職，由李濟繼任，原安陽考古發掘隊隊員郭寶鈞任總幹事，工作人員有王振鐸（天木）、趙青芳等。
也就在這一年，開始成立中央博物院建築委員會，特聘中國營造學社梁思成為專門委員，進行初期籌備建設規劃，並向全國建築界人士徵集建築方案。建築委員會成立以及梁思成的介入，是李濟繼與梁啟超、梁思永共事之後，又一次與梁氏家族成員密切合作。 1935年，著名建築師徐敬直設計的方案當選，後徐氏會同梁思成將方案稍加修改，建築外部仿遼代宮殿式，內部結構則中西合璧，使整個建築群具有獨特風格和磅礴的氣勢。按照國民政府“把中博建成亞洲乃至世界一流博物館”的規劃和設計方案，1936年第一期工程開工，以中博籌備處為代表的業主與德國著名的西門子公司簽定合同，由對方提供建築材料，並負責安裝電梯、電話及排氣扇等通信、通風等當時世界博物館中尚屬珍稀的一流高科技設備。意想不到的是，1937年7月，由於盧溝橋事變爆發及日寇大舉入侵上海，南京告急，第一期工程剛剛完成四分之三（人文館）即被迫停工。所有人員連同收藏的稀世珍寶，開始了又一次歷史上最為悲壯的大遷徙。
盧溝橋事變爆發當天，中央博物院籌備處人員在李濟領導下，把一部分書畫等珍品密存於上海的興業銀行。上海戰事興起後，李濟負責押運史語所六十餘箱中西文雜誌及善本書安全運往南昌農學院，迅速返回南京，同故宮博物院院長馬衡等人一起，商討由北平遷來南京大批文物的轉移辦法。協商的結果是，文物分三批運往川、陝、甘等地。根據各自的分工，這年10月中旬，李濟奉命押運中央博物院籌備處保存的一百餘箱國寶級文物，乘船沿長江赴重慶密藏。工作人員隨船撤離南京遷往重慶沙坪壩暫住。當一切安排妥當後，李濟又急如星火地趕往長沙與史語所同仁會合。此時已是11月下旬，中央研究院遷來的史語所、社會學所等幾個所基本已安頓下來。當得知梁思成一家從北平遷往長沙後，李濟決定登門拜訪，在梁思永帶領下，二人來到了梁思成一家的臨時住處，自此便有了離別後再度相會的機緣。
此時，主客雙方都沒有意識到，隨著這個機緣的重新聚合，梁思成一家與李濟一家及其所在機關，一起度過了漫長的九年流亡生活。