1928年，陳寅恪加入中央研究院史語所並出任第一組（歷史組）研究員兼主任。與李濟和趙元任不同的是，因陳寅恪不捨得丟掉清華國學研究院這個與自己建立了血肉情感的學術陣地，以及那些好學上進的學生，雖答應了傅斯年聘請，並未前往廣州赴任。當盛極一時的研究院解體後，陳寅恪仍在清華園擔任大學改制後的歷史、中文兩系合聘教授，史語所一組主任職務屬遙領性質，除人員聘請、職稱晉升與研究課題等大政方針親自操勞，具體事宜並不過問。
1929年春末，中央研究院史語所由廣州遷往北平北海靜心齋辦公，陳寅恪得以與史語所同仁會合，並有了經常在一起研討的機會。而這個時候，經陳寅恪與天津一位叫李盛鐸藏書家無數次談判，終於把清宮流出的號稱8000麻袋，計約6萬公斤內閣檔案（南按：即滿清入關後的檔案文書，曾作為廢紙被賣掉，後被羅振玉、李盛鐸先後獲得），以史語所名義買下並運到北海靜心齋供陳寅恪主持的一組整理研究。 ——這是史語所自成立以來所獲得的第一筆寶貴史料和學術研究資源，史語所“有此一得，聲光頓起”，達到了一鳴驚人，為天下學界所重的奇效。隨著安陽殷墟發掘成果的擴大，史語所威望日隆，成為傲視群雄的學術重鎮。正如董作賓後來在《歷史語言研究所在學術上的貢獻》一文中所言：到了1948年，中央研究院已有13個研究所，史語所排行第九，“該是一位小弟弟，其實他一向在研究院中被推居老大哥的第一把交椅上”。史語所人員多達84人，比其他的所多一倍至九倍。而“那些兄弟所們，在敬、畏、妒，複雜情緒之下，不能不尊他是老大哥，稱之曰'大所'”。
正在往“大所”路上行走的傅斯年自搬來北平，大有潛龍歸淵，虎踞深山之勢。除了統率史語所本部人馬，傅氏還躍馬挺槍殺回北大，於霧色蒼茫中爭佔地盤，以再展當年學生領袖的風采與輝煌。傅斯年入主北大公開的名號是北大文學院歷史系兼職教授，暗中的打算是藉授課之機，發現讀書種子和有希望的學術研究苗子加以栽培籠絡，以便其人畢業後拉入史語所，繼續擴大“大所”的陣營和聲勢，後來加入史語所的胡福林——也就是在昆明不辭而別的那一位，就是這個時候被傅斯年發現並著意栽培的學生。對於北海靜心齋儲存的數量驚人的內閣大檔，傅斯年認為非陳寅恪出面主持整理不可，於是要求在北平郊外清華園居住的陳寅恪，立即“改住北平，至少可以在北平住每週數日，以便從事上列（內閣檔案）工作”。
既然擔負著史語所歷史組主任兼研究員之職，而整理內閣大檔的工作又屬於歷史組，陳寅恪責無旁貸，遂痛快地答應了傅斯年的要求，除保留清華園新西院三十六號的寓所，另在北平城內西四牌樓姚家胡同三號租賃了一處寬敞舒適的四合院，並把其父陳三立，連同本家大嫂從南京接來居住。有了城里城外的兩處住房，且兩處住宅房間牆上都安裝了當時極其稀有的電話，陳寅恪開始比較從容地奔波於兩地之間。除在清華授課，大部分時間都在城裡北海靜心齋帶領史語所歷史組人員如徐中舒、勞榦、李光濤等人整理內閣檔案。這年9月，傅斯年與陳寅恪籌劃成立了“歷史語言研究所明清史料編刊會”，除傅、陳二人，另聘史學大家朱希祖、陳垣以及年輕的學術中堅徐中舒為編刊委員，擬列了一個龐大的出版計劃，歷史組人員一邊進行整理、分類、編目，一邊刊布印行，將珍貴史料公諸於世，取名為《明清史料》。 ——杖是陳寅恪一生在生活上最舒心、精神上最得意、學術上最有創見的極盛時期。
可惜好景不長，1931年“九一八”事變之後，日本佔據東三省，中國的政治、文化中心逐漸南移。 1933年4月，遵照中央研究院總辦事處指令，史語所拔寨起程，由北平遷往上海曹家渡小万柳堂辦公，除一少部分人員與內閣檔案留守北平外，其他人員全部南遷。陳寅恪不忍捨棄清華園生活環境與學術氛圍，沒有隨所遷移，仍留校任教，同時改任史語所“專任研究員暫支兼任薪”（南按：意為陳氏在史語所的主任與研究員名義保留，但只給一點薪金補貼，主要薪水由清華支付。）這是陳寅恪與他所統領的史語所歷史組共同相處了四年之後首次分別。就陳寅恪當時的情形言，史語所自廣州成立之日起，就有遷北平的打算，而陳氏之所以答應傅斯年出任歷史組主任，正在於史語所遷北平後自己可以兩頭兼顧，或者辭去一頭而專顧另一頭，無論是在清華園任教，或到城內史語所辦公處從事專門的學術研究，二者皆可。想不到史語所僅在北平四年就來了個“孔雀東南飛”，一口氣跑到了上海，獨自留在清華園的陳寅恪遂有辭去史語所職務的打算，只因時局動盪，史語所最後在何處落腳生根仍未有明確的目標，儘管有定居南京的議案，但畢竟沒有落實，何況政局不穩，說不定哪一天又出個什麼岔子，再度返回北平亦未可知。於是，陳寅恪只好採取靜觀待變的態度，視具體情形再作最後打算。 1934年，中央研究院在南京北極閣興建的辦公地點陸續竣工，大部分研究所陸續遷入，史語所隨之由上海遷南京，同年5月增設人類學組，並於籌備完成後的1935年聘請歐洲歸國的大字號“海龜”吳定良博士主持。就在這個時候，陳寅恪產生了辭去史語所歷史組主任，一心一意在清華園教書的想法，但未得到蔡元培和傅斯年應允。
1936年春，傅斯年致函陳寅恪，請其赴南京參加史語所會議，就未來大政方針和發展方向進行商討。陳寅恪思慮再三，於1936年4月8日致函傅斯年，決定不予出席，並正式提出辭呈。函曰：
孟真兄左右：
首示敬悉。所以稽遲未即奉复者，以尚未決計南行與否故也。今決計不南行，特陳其理由如下：清華今年無春假，若南行必請假兩禮拜，在他人，一回來即可上課，弟則非休息及預備功課數日不能上課，統合計之，非將至三禮拜不可也。初意學生或有罷課之舉，則免得多請數日之假，豈知竟不然，但此一點猶不甚關重要。別有一點，則弟存於心中尚未告人者，即前年弟發見清華理工學院之教員，全年無請假一點鐘者，而文法學院則大不然。彼時弟即覺得此雖小事，無怪乎學生及社會對於文法學院印象之劣，故弟去學年全年未請假一點鐘，今年至今尚未請一點鐘假。其實多上一點鐘與少上一點鐘毫無關係，不過為當時心中默自誓約（不敢公然言之以示矯激，且開罪他人，此次初以告公也），非有特別緣故必不請假，故常有帶病而上課之時也。弟覺此次南行亦尚有請假之理由，然若請至逾二星期之久，則太多矣，此所以躊躇久之然後決定也。院中所寄來之川資貳佰元，容後交銀行或郵局匯還。又弟史語所第一組主任名義，斷不可再遙領，致內疚神明，請即於此次本所開會時代辭照準，改為通信研究員，不兼受［任］何報酬，一俟遇有機會，再入所擔任職務。因史語所既正式南遷，必無以北平僑人遙領主任之理，此點關係全部綱紀精神，否則弟亦不拘拘（泥）於此也。所欲言者尚多，特先約略奉复，即希鑒諒，並代候諸公，至深感幸。敬叩撰安弟寅恪頓首四月八日傅斯年接信，對陳寅恪提出的不出席會議和辭職事皆不照準，退而求其次，想出了一個“兩頭兼顧”之法，讓陳氏只出席幾天會議，保證一個星期內可返北平。為了加重邀請的砝碼，傅斯年與李濟聯名拍發電報，以示尊崇和迫切之情，但陳氏仍未南下。 4月13日，陳寅恪在致傅斯年、李濟的信中說道：“前日奉到來電，又遲疑久之，至今日仍決計不南行，殊負盛意，惶愧之至。弟雖可於一星期內往返，但事實上因身體疲勞及預備功課之故，非請假兩星期不可。自昨日起，又略感冒受諒，則短期內往還之可能更少矣。又弟請於暑假後解除第一組主任名義一事，實考慮再三，認有必要，否則亦不拘泥，務求兄等與諸公會商允許，不勝感禱之至。”信旁注數語，其中有“弟不列會或可便於討論，否則互相客氣，又恐不易決定矣。此亦不必到會之一小小理由也”。
既然陳寅恪兩次復函表示不再南下，並列舉了相當的理由，傅斯年自然不便霸王硬上弓，強人所難，陳氏南下之事就此畫上了句號，只是他所堅辭的史語所歷史組主任之職未能遂願，不但這年的暑假之後未能解除，即是在抗日烽火燃燒於大半個中國之時同樣沒有實現。以陳寅恪在學術界超凡的學識與名望，滿身霸氣的傅斯年好不容易才延攬到自己麾下，自然不會輕易放棄。令傅、陳二人都沒有想到的是，北平分別五年之後，陳寅恪與史語所同仁又有了一次相聚的機緣，只是，這次相聚不在北平，亦不在南京，而是硝煙瀰漫、彈片橫飛的西南邊陲昆明城。