傅斯年在回國前已有耳聞，廣州一隅得西洋風氣之先，革命力量與反革命力量輪番興起，各色大旗往復變幻。隨著國民黨北伐節節勝利，作為國民政府的龍興之地，看上去很有點生氣與活力，是可以乾一番事業的地方。接到聘書的傅斯年當場拍板兒，表示願意應聘，但先要回山東老家拜望老母。待一切談妥之後，傅斯年回山東聊城小住時日，於同年12月攜胞弟傅斯嚴（孟博）來到廣州中山大學出任文科學長（後改稱文學院長）暨國文、史學兩系主任。 ——這是傅斯年與民國時期學界最有影響的重量級人物朱家驊相見、交往的開始。從此，二人在工作、生活中建立了深厚的友誼。儘管後來一個從政，一個是亦官亦學，走著不盡相同的道路，但人生際遇把他們緊緊地連在一起，在未來二十餘年顛沛流離的歲月中，共同度過了相互信任與協作的難忘時光。
傅斯年到中山大學上任不久，朱家驊發現此公為人做事“磊落軒昂，自負才氣，不可一世。”執筆為文“雄辭宏辯，如駿馬之奔馳，箕踞放談，怪巧瑰琦，常目空天下士”，不愧是學界難得一見的具有天才處事能力的領袖型“大鱷”。只是這“大鱷”在目空天下士的同時，還算心中有數，視朱家驊為難得的知已，並以過人的膽識、才氣加霸氣，主動幫助朱氏籌劃校務，處理各類繁雜事宜。在傅的策劃和主持下，文學院很快增聘瞭如吳梅、丁山、羅常培、顧頡剛、楊振聲、何思源、汪敬熙、商承祚、珂羅掘倫（南按：即高本漢，Bernhard Karlgren，1889－1978，瑞典著名漢學家）、史祿國（南按：Sergei Mikhailovich Shirokogorov，俄國人類學家）等當時學界名流與大牌“海龜”擔任教授或通信教授。中山大學由此聲名鵲起，威望隆盛。令人扼腕的是，這樣的大好局面沒有維持多久，由於人事紛爭很快走向衰微。
激烈的紛爭首先在魯迅與顧頡剛、傅斯年三人之間展開。
傅斯年到中山大學時，魯迅正在該校任教務主任兼中文系主任。此前，魯迅在北平經歷了著名的“女師大風潮”，並與陳源（西瀅）、徐志摩等現代評論派展開了一場混鬥，夾在其間的胡適也被魯迅視為敵人而遭到咒罵，二人關係宣告破裂並逐漸惡化。也正是由於陳源、徐志摩以及魯迅認為的後台老闆胡適等西洋“海龜”與之交鋒對壘，魯迅對胡適等留學歐美的所謂“洋紳士”，以及胡的弟子顧頡剛之類熱衷於在研究室內搞考據的學院派都沒有好感。更因此前有人揭露說魯迅的是“竊取”日本學者鹽谷溫的《支那文學概論講話》，顧頡剛亦持此觀點，並與陳源談及此事。陳氏一聽立感奇貨可居，正是攻擊魯迅的好機會，便寫了一封揭發信，由徐志摩編輯發表於1926年1月30日《晨報副刊》。疑心甚重又疾惡如仇的魯迅看到陳源的公開信後，反應異常激烈，立即寫了《不是信》的長文予以反駁。為此，魯、陳之間再度展開了一場論戰。就在這場論戰中，魯迅對陳源、徐志摩，還有躲在背後撐腰的胡適懷恨在心，同時與他認為躲在背後的“陰謀家”顧頡剛也結下了不共戴天之仇。直至“三·一八”慘案發生，魯迅遭到北洋政府緝捕（南按：其間魯迅有《紀念劉和珍君》等文章發表），不得不設法離開北京赴南方暫避。 1926年8月2日，魯迅最後一次前往女師大領取薪水，隨後告別了這座浸染著他滿腔激情與血淚的學府，悄然隱去。
不久，魯迅受好友林語堂邀請，離開北京赴廈門大學任教。在女師大任教期間結識的女學生兼女友許廣平也隨魯迅南下，到廣州的廣東省立女子師範學校任訓育主任。
魯迅抵廈門大學不久，顧頡剛也受時任文科主任兼國學研究院籌備主任林語堂之邀，辭別北大文學院研究所編輯員之職，陰差陽錯地來到廈大任國學研究院研究教授兼國文系名譽講師。魯迅一見顧氏到來，眼裡冒火，很快二人就演化成勢不兩立的仇寇。鑑於層層盤根錯節的矛盾，誓不願與顧頡剛等一路人為伍的魯迅辭職離開廈門，於1927年1月18日抵達廣州中山大學，出任教務主任兼中文系主任。
傅斯年受聘中山大學並出任文科學長後，對魯迅漸生厭惡之感，遂力主聘請北大時代的同窗好友顧頡剛到中大任教，其主要任務是“辦中國東方語言歷史科學研究所，並謂魯迅在彼為文科進行之障礙”。意在架空魯迅，掃除障礙。魯迅一聽顧頡剛要來中大，知道是傅斯年等人合謀設下的圈套，頓時火冒三丈，疾言厲色地對前來商量的傅斯年道：“他來，我就走！”此舉令傅深為尷尬與不快，但傅斯年以他敢作敢為的作風，頂著魯迅的巨大壓力，最終把顧頡剛請進了中大。魯迅眼見自己竟成了一個“大傀儡”，於1927年4月21日辭職離開廣州，攜許廣平赴上海開始了公開同居生活。顧頡剛留了下來，除在中山大學任教，還將大部分精力與傅斯年共同主持籌劃語言歷史研究所。
1927年5月9日，國民黨中央政治會議決定設立中央研究院籌備處，隸屬於中華民國大學院。蔡元培正式辭去北大校長之職（蔣夢麟繼任），出任國民政府大學院院長。在蔡氏和中央研究院籌備處總幹事楊杏佛籌劃下，聘請籌備委員30餘人，傅斯年、顧頡剛均在其內。這時的中央研究院只設了與國計民生有直接、緊迫關係的理化實業、社會科學、地質、觀像等四個研究所。當時既無歷史學、語言學或考古學的研究所，更無“歷史語言研究所”的立項打算。但霸氣十足的傅斯年經過一番權衡後認為，既然是中央研究院，就應該有文史方面的學科加入，否則將有失偏頗。於是糾集“一部分熱心文史學的先進”，以“歷史語言研究的特別重要；現代的歷史學與語言學科是科學”等說辭，憑著北大時代與蔡元培校長結下的良好關係，對蔡氏與楊杏佛等幾位決策人物展開遊說攻勢，聲稱可“借用在廣州語言歷史研究所已成就及將建設者，以成中央研究院之語言歷史研究所”云云。傅斯年不愧是當年的北大學生領袖，以他特殊的魅力和超人的智能加霸氣，終於迫使蔡元培與楊杏佛就範，答應成立一個社會科學方面的學術機關——歷史語言研究所。正如傅氏對外界所炫耀的那樣：“這一努力顯然是很快地成功了。”
1928年3月底，中央研究院籌備委員會一致通過，“因歷史語言研究之重要，決設歷史語言研究所於廣州，委任傅斯年與顧頡剛、楊振聲為常務籌備委員”，以傅斯年為掌門人。這一“無中生有”（傅斯年語）的學術機構的正式設立，令學界人士為之側目，即是神通廣大的胡適都感到有些意外，因而戲稱傅氏“狡兔二窟”。
1928年4月，國民政府決定改中華民國大學院中央研究院為國立中央研究院，成一獨立研究機關，任命蔡元培為中央研究院院長，楊杏佛任總幹事。下設各研究所及首任所長如下：
地質所李四光；天文所高魯；氣象所竺可楨；物理所丁燮（西）林；化學所王進；工程所周仁；社會科學所楊端六。
1928年10月14日，中央研究院歷史語言研究所正式宣告成立，所址設在廣州東山柏園。傅斯年辭去中山大學教職，應聘出任中央研究院歷史語言研究所所長。這一抉擇，是傅斯年人生旅程中一個重要的轉捩點，也是中國史學異軍突起的坐標系，接踵而來的，將是一個“開闢史學新天地”的偉大時代。
就在史語所成立之時，傅斯年與顧頡剛緣分已盡，開始出現裂痕與衝突。
傅、顧二人的矛盾表面上沒有特殊的標誌性事件供後人評斷，據顧頡剛的女兒顧潮說，主要原因是兩人的性格、志向不同。顧與傅在北大同窗時，談及各人的理想與志向，顧謂最強者乃知識欲，傅斯年謂最強者乃政治欲。兩人都有剛強的性格，傅斯年博學多才，極具辦事才幹，甚欲在學術界成為領袖人物，做出一番轟轟烈烈的大事業。但脾氣暴躁，霸氣十足，在各個方面想把顧氏壓服，聽命自己的調遣。而顧頡剛則傾心自己的學問，生性倔犟，不吃傅斯年那一套，曾聲言只能做自己願意做的事情，而不能聽從任何人的指揮。於是二人關係越來越僵，終於釀成了不能合作之局。
1929年2月，顧頡剛趁中山大學領導人戴季陶、朱家驊不在校之際，攜眷悄然離開了廣州返回北平。同年9月受燕京大學之聘，出任歷史系教授。隨後，顧頡剛分別緻信戴季陶、朱家驊，正式辭卻中山大學教職。自此，顧頡剛徹底脫離了中大，中大失去了顧頡剛。而傅、顧二人天南地北，時聚時散，卻是咫尺天涯，互不提攜，終生再也沒有一起共事。後來，傅斯年接替胡適在北大辦文科研究所，曾想與顧頡剛重續舊緣，聘顧氏為北大研究所教授，但顧表示堅決不重做馮婦，為傅氏驅使，以免遭到壓迫與征服的恥辱。傅斯年因失了面子，甚覺惱火，竟暴跳起來，並寫信挖苦顧頡剛：“燕京有何可戀，豈先為亡國之準備乎？”顧頡剛閱信後則漠然置之，在日記上反諷曰：“我入燕京為功為罪，百年之後自有公評，不必辯也。中國學校聘外國教員亦多，豈此外國教員亦為作亡國之準備乎？”從此永未回頭。顧頡剛出走後，作為中央研究院史語所所長的傅斯年，開始以他的霸氣與超人的辦事才能，四處網羅人才，並率先把目光投向了清華國學研究院陳寅恪、趙元任兩位導師身上。