胡思杜自殺44天后的1957年11月4日，經台灣當局“中央研究院”選舉，由蔣介石任命胡適為“中央研究院”院長。大陸批胡運動與台灣政治集團的內部傾軋，陰差陽錯地使漸入老境的胡適又得到了一次出頭的機會。
1958年4月2日，68歲的胡適告別夫人江冬秀離開紐約辦理私務，8日乘機獨自一人飛抵台北，時已定居台北的胡祖望夫婦、孫子胡复，連同台灣當局要員等500多人到松山機場迎接，場面頗為壯觀。
4月10日上午9時，裝扮一新的胡適來到南港史語所考古館出席“中央研究院”院長就職典禮並發表演說。胡稱自己幾十年來與“中央研究院”一直保持親切關係，因為不僅自己是“中央研究院”歷史語言研究所的通訊研究員，也因為“中央研究院”是許多老朋友心血的結晶，自己對它有不可推卸的責任云云。就職典禮結束後，旋即召開研究院第三次院士會議，以壯聲勢。為顯示對學術界的尊重並給胡適裝點面子，蔣介石攜“副總統”陳誠、張群等一干大員專程趕到南港，親自出席院士會議並致辭。蔣介石認為，既然“中央研究院”為學術之最高機構，當責無旁貸地擔負起復興民族文化的大任，認為“目前大家共同努力的唯一工作目標，為早日完成'反共抗俄'使命，如果此一工作不能完成，則吾人一切努力均將落空，因此希望今後學術研究，亦能配合此一工作來求其發展”。蔣氏在講到胡適“最令人敬佩者即為其個人之高尚品德”後，話鋒一轉，再度將學術研究與政治聯繫起來，謂：
今日大陸上“共匪”以仇恨與暴力，為其一切倒行逆施之出發點，其目的在消滅我國家之傳統歷史與文化，而其重點則為毀滅我民族固有之倫理與道德，因此胡適先生之思想及其個人之德性，均不容於“共匪”，而必須予以“清算”，即為“共匪”摧毀我國倫常道德之一例……意想不到的是，蔣介石期望“教育界、文化界與學術界人士，一致負起恢復並發揚我國固有文化與道德之責任”的說辭，令身旁的胡適大為不快。特別是蔣不合時宜地提出“五四運動”與“打倒孔家店”有功有過，對胡適提倡的“五四價值”、“自由主義”等說辭，於褒中暗含了譏諷、挖苦，而對胡適與台灣島上的雷震等輩搞出的《自由中國》雜誌，且傳言胡在台要組建一個“反對黨”等名堂極不贊成。這一說辭搞得入會者如芒在背，惶恐不安，胡適原本笑容可掬的臉陰沉下來。
此前的胡適儘管在美國生活並不舒心，九年後又因各種風雲交錯重返台灣從國民黨手中謀得一個響噹噹的鐵飯碗，但他並不認為這個飯碗是蔣介石所賞賜便俯首聽命，自輕自賤。待蔣介石講完，梅貽琦向來賓作了一個簡短的致辭後，已是悶氣積胸，頗為惱怒的胡適在最後答謝詞中，毫不客氣地對蔣的言辭進行駁斥，據當時在場的“中央研究院”民族研究所青年才俊李亦園回憶說：
胡院長就職時蔣老總統特別親自來了，來了之後還講話，在他的講話中不知為什麼忽然說到共產黨在大陸坐大可以說與五四運動的提倡自由主義不無關係，這樣的說話對胡先生來說當然是非常尷尬的，因為五四運動跟他有密切的關係，他是重要的推動者。結果老總統講完之後，胡先生站起來繼續答話，他的答話讓大家臉色都凝住了，他一開始就說：“總統你錯了”，在當時那麼威權的時代，他這樣講使全場的人臉色都變白了，氣氛非常緊張，老總統卻很有風度地主持完會議，只是在胡院長任內就未再來過南港了。這一件事，胡院長的表現可以說確實為中央研究院在追求學術自由與獨立上樹立了一個里程碑。
關於這一場景，當時也在現場的石璋如回憶稍有不同，石說：蔣介石那天講了很久，場面熱烈，胡院長一發言就說“總統你錯了”，台下立即鼓掌。在座的學者們認為胡適是個有骨氣、有擔當的人，因為若不是胡適，在蔣介石面前“沒有幾個人敢說這句話的”。
胡適所說的“總統你錯了”，主要是指不應把學術研究與政治捆綁在一起，“反共抗俄”的所謂“使命”，也不應由“中央研究院”這樣的研究機構來承擔。胡適說道：“我個人認為，我們學術界和'中央研究院'挑起'反共復國'的任務，我們做的工作還是在學術上，我們要提倡學術。”
面對蔣介石指責五四運動提倡自由主義與打倒孔家店的問題，胡適自是耿耿於懷，並予以反駁。胡說：“對於打倒孔家店一事，恐怕總統是誤會了我的意思。我所謂的打倒，是打倒孔家店的權威性、神秘性，世界任何的思想學說，凡是不允許人家懷疑的、批評的，我都要打倒。”蔣介石一聽其言，立即怫然變色，站起身便要走，坐在他旁邊的一位隨行官僚（一說張群，另一說陳誠），悄悄伸手拉住老蔣的衣角示意其坐下，蔣強按怒氣勉強坐下，待典禮一結束便迅速離去。
遙想當年，胡適在一篇名為《介紹我自己的思想》一文中，曾向中國的少年讀者宣稱：“從前禪宗和尚曾說，'菩提達摩東來，只要尋一個不受人惑的人。'我這裡千言萬語，也只是要教人一個不受人惑的方法。被孔丘朱熹牽著鼻子走，固然不算高明，被馬克思列寧史（斯）大林牽著鼻子走，也算不得好漢。我自己決不想牽著誰的鼻子走。我只希望盡我的微薄的能力，教我的少年朋友們學一點防身的本領，努力做一個不受人惑的人。”這一點，胡適本人確是做到了。對於這一說法，世人有不同評論，如胡在美國的學生、史家唐德剛就說過，胡適不知不覺地被他的老師杜威這個糟老頭子牽著鼻子走了一輩子。唐氏之說或可再討論，但至少胡在蔣介石集團之間大體的是做到了。
1959年，作為新任“中央研究院”院長、學界領袖胡適，公開反對蔣介石連任“總統”，對蔣氏為謀求連任而冒天下之大不韙，置黨章國法於不顧，欲強行“修憲”的做法更是大加聲討。按1948年制定的《中華民國憲法》，每屆總統任期六年，連任不得超過兩次。當年擬定《憲法》的張君勱等人考慮到一個沒有限期的總統，等同於王朝世襲，因而特別加以限制。跑到台灣的國民黨政權仍以中華民國正朔自居，因而當年這部《憲法》仍然發生效力。 1954年蔣介石獲得第二次連任，到1959年年底已是五年，眼看大限已至，下次選舉應該自動退選，但蔣介石與國民黨內部一部分拍馬溜鬚者竟置《憲法》於不顧，公然支持蔣介石參選，並欲修改《憲法》。為此，胡適在1960年2月20日公開發表聲明，反對蔣介石違背《憲法》三次連任“總統”，並拒絕即將召開的“國大”主席團主席之職。對於胡氏的“犯上”舉動，蔣介石大不痛快，其子蔣經國更是異常惱怒，甚至有“收拾”胡的打算，只是忌諱胡適所具有的儒林盟主地位和非凡的國際影響而遲遲不敢動手。端坐在台灣“中央研究院”院長椅子上的老胡適，在強烈呼籲並製止蔣介石連任“總統”的同時，並未忘掉一介書生的本色，於繁雜的公務之餘，仍窩在書房對研究了大半生的神會和尚繼續窮究細研。 1960年2月9日，胡適在“中央研究院”歷史語言研究所演講他的新作《禪宗史的假歷史與真歷史》。 20日，出席“國民大會”第三次會議。 3月10日夜，所著《神會和尚語錄的第三個敦煌寫本：南陽和尚問答雜徵義——劉澄集》終於脫稿。正是這部耗損了胡適大量心血的著作，使其在脫稿的當夜即心髒病復發，延至19日，病情加重，不得不入住台大醫學院診治，直至4月5日小痊出院。
1961年1月28日，台北“國家長期發展科學委員會”舉行第五次全體委員會議，時台海危機已趨平緩，台島內的科技經濟在美國的大力援助、扶持下，已擺脫了戰後陰影開始復蘇，國民黨對台灣的統治地位更加穩固。正是這諸多的緣由，胡適在致開幕詞中興致勃勃，充滿樂觀與信心地說道：“這是一個起點，一個有希望的起點。在這樣艱難的情形之下，我們能夠有一億一千萬台幣用在'長期發展科學與技術的研究'的開山工作上面，我們至少可以說科學已開始得到'重視'，開始得到'資助'了。我們當然不可感到滿足，我們至少應該感覺我們的責任之大。我們應該感覺古人說的'任重而道遠'五個字的意義。”又說：“兩年的工作，只做了一點探路的工作，開路的工作。從今天起，我們可以平心靜氣想想這條'遠路'的藍圖了。”這是胡適晚年精神最好，內心充滿希望與夢想，體力也呈迴光返照狀最為充沛的時期。自此之後，便是“夕陽無限好，只是近黃昏”了。
這年的2月25日夜，胡適心髒病復發，急送台大醫院救治。 4月22日，病情好轉並出院，遷居台北福州街26號台大招待所療養，6月25日回到南港“中央研究院”上班。可惜好景不長，7月間又患急性腸炎，大鬧水瀉。 9月3日，胡適在致好友李書華信中帶有哀惋之情地說：“我是2月25日夜抬上汽車，抬進台大醫院的急救處的。我在醫院住了56天，出院後就在台北借房子住了兩個月（因為南港附近沒有醫院）。到七月初又因腸炎，大鬧水瀉，瀉的水分乾了，影響心臟，血壓低到74，半天上不去。……總之我們都老了，機件都不夠完好了。”此時的胡適自覺已到了衰老不堪的歲月，說不定哪一天就悠忽登了鬼錄，遂寫信召在紐約的夫人江冬秀赴台。 10月，江冬秀從美國抵達台北，一家人始得團聚，孤苦伶仃三年有半的老胡適精神上算是稍添一些慰藉。
就胡適當時的處境和心境而言，打牌名星江冬秀帶來的慰藉，如同雪中的一點炭火，與茫茫雪原比起來仍十分微弱，胡適心中的大孤獨與大悲涼仍不能融解消除，這種孤獨與悲涼除了蔣氏政權施加的政治壓力，還有一幫號稱文化“鬥士”和“新儒家”的人物，或明或暗地不斷向胡氏擲出匕首、投槍加冷箭，企圖對胡予以毀滅性打擊。對於胡的處境和“新儒家”的陰謀，時在台灣師範大學英語系任教的梁實秋曾經提及“譽之所至，謗亦隨之。胡先生到台灣來，不久就出現了《胡適與國運》匿名小冊（後來匿名者顯露了真姓名），胡先生夷然處之，不予理會。胡先生興奮的說，大陸上印出了三百萬字清算胡適思想，言外之意《胡適與國運》太不成比例了。……胡先生決意來台定居，醫生的意見也不能左右他，不歡迎他的人只好寫寫《胡適與國運》罷了。”書生出身的梁氏對胡的處境未免太過於樂觀，既然對方劍鋒已經出鞘，哪裡有弄一點《胡適與國運》就善罷甘休的道理？大規模的反撲與打擊很快接踵而至。
這年11月6日，進入衰朽之年的胡適應國際開發署之邀，強撐身體出席“亞東區科學教育會議”，在開幕式上作了《科學發展所需要的社會改革》英文演講，此為胡適生前關於中西文化、科學比較的最後一次重要發言。主旨是頌揚西方的科技文明，批判中國的古老文化，其中說道：我們東方這些老文明中沒有多少精神成分。一個文明容忍像婦女纏足那樣慘無人道的習慣到一千多年之久，而差不多沒有一聲抗議，還有什麼精神文明可說？一個文明容忍“種姓制度”（the caste system）到幾千年之久，還有多大精神可說？一個文明把人生看做苦痛而不值得過的，把貧窮和行乞看做美德，把疾病看做天禍，又有什麼精神價值可說？ ……現在正是我們東方人應當開始承認那些老文明中很少精神價值或完全沒有精神價值的時候了。又說：“我相信，為了給科學的發展鋪路，為了準備接受、歡迎近代的科學和技術的文明，我們東方人也許必須經過某種知識上的變化或革命。這種知識上的革命是有兩方面。在消極方面，我們應當丟掉一個深深的生了根的偏見，那就是以為西方的物質的文明雖然無疑的佔了先，我們東方人還可以憑我們優越的精神文明自傲。我們也許必須丟掉這種沒有理由的自傲，必須學習承認東方文明中所含的精神成分實在太少。在積極的方面，我們應當學習了解，賞識科學和技術絕不是唯物的，乃是高度理想主義的，乃是高度精神的。科學和技術確然代表我們東方文明中不幸不夠發達的一種真正的理想主義，真正的精神。”
意想不到的是，這篇大約25分鐘的演講由徐元高譯成中文在媒體披露後，立即引起港台兩地知識分子激烈的論爭，並受到早已虎視眈眈、號稱東方文明捍衛者如徐復觀、葉青等輩的“圍剿”。與此同時，還有一位叫廖維藩的“立法委員”，經過一番密謀，在台灣“立法院”對胡適講演中的觀點提出質詢，把胡的演講與現實政治攪在了一起，引導媒體掀起風浪，而蓄勢待發者趁機砲制一連串檄文嗖嗖射出，如同帶響的鋒鏑直赴胡適的命門。在四面合圍與陣陣喊殺聲中，心力交瘁的胡適心髒病驟發倒地不起，於11月26日凌晨，急送台大醫院開始了生命中最後一輪搶救。
剛剛離開閻王爺那安放著油鍋與老虎凳的宮殿回到陽界，躺在台大醫院病床上長吁一口氣的胡適，懵懵懂懂又挨了一記悶棍。原籍湖北浠水，早年曾任蔣介石侍從室少將秘書、逃台後出任私立台灣東海大學教授的徐復觀，在群醜起舞中再度跳將出來，揮舞冰冷的狼牙大棒，聲色俱厲地指斥胡適是“中國人的恥辱，東方人的恥辱”、“是一個作自瀆行為的最下賤的中國人”。
此前，號稱“新儒家”、“獻身於民主的鬥士”、“敢於向權勢挑戰的人文自由主義者”的一代文棍徐復觀，見一系列匿名小冊子不能將胡適擊倒在地，讓其口吐白沫，眼珠亂翻，與陰曹地府的閻王爺握手言歡，索性摘下面具，借胡適演講事件之機，親自披掛上陣，向胡適射出了銳利的鋒鏑。在《中國人的恥辱東方人的恥辱》一文中，徐復觀指斥道：“今天在報上看到胡博士在亞東科教會的演說，他以一切下流的辭句，來誣衊中國文化，誣衊東方文化，我應當向中國人，向東方人宣佈出來，胡博士之擔任'中央研究院'院長，是中國人的恥辱，是東方人的恥辱。我之所以如此說，並不是因為他不懂文學，不懂史學，不懂哲學，不懂中國的，更不懂西方的，不懂過去的，更不懂現代的。而是因為他過了七十之年，感到對人類任何學問都沾不到邊，於是由過分的自卑心理，發而為狂悖的言論，想用誣衊中國文化、東方文化的方法，以掩飾自己的無知，向西方人賣俏，因而得點殘羹冷汁，來維持早經掉到廁所裡去了的招牌；這未免太臉厚心黑了。”又說：大概在四年前，他在台中省立農學院向學生講演，大意是說吃鴉片煙，包小腳，即是中國文化。這次當著許多外地人面前，更變本加厲的說：
科學和技術，並不是唯物的，它們具有很高的理想和精神的價值。它們確實代表著真的理想和靈性。
在東方文明中，靈性不多。在那種忍受著殘酷、無人性的規定，如相沿一千多年的婦女纏足的文明中，有什麼靈性？ （按：以上大概是罵中國的）在那種容忍階級制度達數千年之久的文明中，有什麼靈性？在那種把人生看為痛苦，沒有價值，崇拜貧窮和行乞，把疾病歸之於神的作為的文明中，有什麼靈性？ （按：以上大概是指印度教及佛教而言）現在正是我們東方人開始承認在那種古老的文明中，很少有靈性，或者沒有。那種古老文明是屬於一個人類體力衰弱，頭腦遲鈍，感到自己無力相抗衡的時代。
這種文明（科學，技術）具有高度的理想，和真實的精神……這是對科學與技術的現代文明所作的真誠讚頌。 ……（以上是根據十一月七日《徵信新聞報》）徐氏在列舉了胡適這段演講詞之後，對每句話進行抽絲剝繭式的痛批，並藉用“以子之矛攻子之盾”的古老方法反擊道：“胡博士對羅爾綱以概括方式論斷歷史中的某一階段的某一特定問題，而裝腔作勢的責備他所用的方法不科學（見“中央研究院”所印的《師門五年記》）。但胡博士卻能用幾句罵街的話，便斷定了中印兩大民族幾千年的文化，這是那裡來的飛天蜈蚣式的科學方式呢？在你寫的《古代中國哲學史》及《胡適文存》中，談到中國文化方面的，有一篇與原典對照而能言之成理的文章嗎？對於印度的東西，更是一竅不通。胡博士到底從那一門科學得到了這種啟示而敢作這種大膽的論斷呢？”又說：“只要是做過深入調查、研究的人類學家，便會承認那怕是極原始性的民族，也有很有價值的心靈活動。這是人類學在當前的一大進步，也可以說是一大傾向。胡博士憑著什麼調查研究，而能斷定在中印兩大文化中，只有極少的心靈，乃至根本沒有呢？胡博士的母親，是不曾讀過洋書的，在胡博士的了解中，他兩老有沒有心靈呢？”
對這一由“靈性”而牽涉到的印度文化與佛教問題，徐復觀譏諷道：“這裡面的道理，不必向胡博士說，因為假使他對西方的文化史稍有常識，便不會說出這種話來。不過有一點，我倒非常佩服他是識時勢的俊傑，他只罵由印度出來的宗教，決不罵天主教、基督教。假使印度也有一天強盛起來了呢？胡博士可以點頭微笑的說'我那時已墓有宿草了'。”
最後，徐氏以爺爺教訓孫子的口吻棒喝道：“中國印度文化，在萬分中，有一分好的沒有呢？胡博士幾次代表我們政府出席國際學術性的會議，假定有一分好的，胡博士何妨便講那一分，以顧點國家的體面，並增進西方友人一點知見，這又有什麼不可以的呢？假定連一分好的也沒有，則胡博士何必頂著中國的招牌去出席呢？因為你雖然在洋人面前罵自己的文化罵得爽心快意，但洋人依然認為你是一個中國人。一個中國人在外國人面前罵儘自己民族的歷史文化，在外國人心目中，只能看作是一個自瀆行為的最下賤的中國人。同時，這次參加亞東科教會的，只是與印度文化有著密切關係的客人；七十一歲的老人，何以不懂事到既居於地主的地位，竟無知無識的罵起客人的祖宗來了？……據我的觀察，那是有不得已的隱衷的。說穿了，只是為了維持自己的地位。”
徐復觀的進攻檄文發表之後，港台為之震動，在倒胡派一片叫好歡呼之際，也引來了擁胡派的迅速反擊。 1962年1月1日出版的《文星》雜誌，發表了李敖的《播種者胡適》，對徐派大加討伐。徐復觀見狀，遂糾集鄭學稼、胡秋原等對胡適進行又一輪狂轟濫刺，同時又與“以胡適為衣食父母的少數兩三人……豢養一兩條小瘋狗”如李敖等輩，展開了一場所謂的“中西文化論戰”，港台《自由報》、《自立晚報》、《中華雜誌》、《世界評論》等報刊紛紛加入這場以謾罵為主調的“筆仗”之中。一時間，學壇報界硝煙四起，雞飛狗跳，四鄰為之矚目。躺在病床上的胡適面對亂棍飛擊，精神飽受刺激，但他對徐的討伐保持了緘默，而對主動討好示情的李敖也沒有迎合。 1962年1月5日，胡適的助手胡頌平對徐復觀的文章作了摘錄，並作了一個短評。胡頌平說：“這種謾罵的口吻，編者就沒有讓先生知道；因又想起徐復觀在1958年4月22日給先生的信，也附錄於此，可以對照看看。”徐致胡信的內容如下：
適之先生道席：
此次得瞻風采，不減當年，真國家之福！謹奉上拙文錄一冊，內《政治與學術之間》，或者稍補民生理論在此方面之間隙。至《儒家在修己與治人上的區別及其意義》一文，乃疏導漢宋之爭，並作上文之具體補充，敬乞教正。此外則不值得寓目也。五四運動之偉大歷史貢獻，將永垂不朽。然四十年之歲月，不僅先生個人之學養，與日俱深；即國人對世界文化之感染，亦未嘗無若干進步。
在短評中，胡頌平為胡適作瞭如下辯護：“先生在學術上所以領導群倫者，不僅為個人在學術上之成就，而尤為知識分子精神上之象徵。凡偶得有文化之爭，先生不必居於兩造者之一方，而實為兩造所共同期待之評判者。五四時代之文化鬥士，必須化為今日流亡時代之文化保姆。區區之忱。想可蒙先生諒察也。”
胡頌平之所以摘錄徐致胡的信函，除了對徐氏前後判若兩人的面目在心中引起的震撼，自然也有今夕何夕，“人為何物”的感慨。
1962年1月10日，胡適病癒出院，暫住福州街療養。老年胡適的生命已邁入衰朽之坎，即將燈熄香滅，萬事皆休。
在夕陽西下、餘暉殘照的生命盡處，給予胡適心靈慰藉的，已不是國民黨政府表面上對其恩譽並隆的禮遇，更不是他追尋了大半輩子一直放心不下的那個“天外來客”神會和尚，而是入住台大醫院期間的病友——梅貽琦。世人沒有想到，兩位中國近現代史上著名的大學校長、教育家，在各自奔波忙碌了幾十個年頭，足跡踏遍千山萬水，歷盡九九八十一難之後，於人生的晚年，竟有這樣的機緣得以在台灣孤島的醫院里相聚，並有難得的空閒拋棄一切雜務，執手言談，話古論今，憶往事，思未來，以淡泊、寧靜的心境參悟現實人生，並相互撫慰著對方心靈的悲傷與苦痛。如此人生際遇，實在是胡、梅二人預想不到的不幸之中的大幸。只是由於梅貽琦不善張揚和沈悶寡言的禀性，在時人和後世研究者眼裡，梅氏於奔往“田橫之島”的路途中，離開北平出走南京再至海外，似乎比胡適當年的逃離又多了幾分神秘色彩，而其中的內情和謎團一直不為外界所知，直到幾十年後才逐漸浮出水面並變得清晰起來，梅氏遼闊的胸襟與恪盡職守的處世風範，也才讓更多的國人仰慕追思，永懷繾綣。