胡適去世的當天晚上，即組成治喪委員會，陳誠為主任委員；張群、王雲五、朱家驊、蔣夢麟、王世傑、黃季陸為副主任委員；於右任、蔣經國等為委員，共103人。
靈堂設在台北市極樂殯儀館。胡適的遺體安放在冷杉木特製的靈柩裡，身著藍色長袍，黑色馬褂，腳穿布鞋。遺體上覆蓋著北京大學校旗。蔣介石親往祭吊，並親書輓聯一副，辭曰：
適之先生千古新文化中舊道德的楷模；
舊倫理中新思想的師表。
蔣中正敬挽這確切地概括了胡適一生復雜思想和經歷的輓聯，懸掛在靈堂中央。治喪委員會收到各界人士送的輓聯輓幛八百餘件，其中如：
微老夫子，倡白話；此日兒童，仍須皓首窮經，從字紙堆中，去埋頭嚼句。
無新文化，主改革；長茲華裔，安能小心求證，到科學園裡，來植樹生根。
先生去了，黃泉如遇曹雪芹，問他紅樓夢底事?
後輩知道，今世幸有胡適之，教人白話做文章。
孟真死於鬧，今公死於，行在縱多才，何堪如此?
共黨既罵之，國人又罵之，容身無片土，天乎痛哉!
前往靈堂瞻仰遺容的市民絡繹不絕，殯儀館前幾天內人流不息。
3月2日，陳誠率治喪委員會全體委員舉行公祭，參加公祭的有75個單位；此外，有各界名流、軍人、學生、平民、家庭婦女及駐台外交人士等前往致祭，瞻仰遺容，與胡適博士告別，總計達38000餘人。下午2時大殮。 3時啟靈出殯。從台北市到南港的馬路兩旁自動來送殯者多不勝計。靈車開至松山以後，沿途居民家家燃香，戶戶路祭，直到南港，一路鞭炮聲不斷。據目擊的記者估計，自胡適逝世到出殯，前往祭吊和路祭送殯的市民，總計達10餘萬人。 ①
10月15日，安葬胡適於台北南港舊莊墓園。他雖然未能回到美麗而且富饒起來的黃山故鄉，卻總算長眠在自己祖國的泥土裡。墓門上刻著蔣介石書寫的“德學俱隆”四字。右首高坡上，有北京大學校友會建造的紀念亭；左首有中國公學校友會建造的半身銅像。墓碑上刻著：
這是胡適先生(民前二十一——民國五十一年)的墓。
這個為學術和文化的進步，為思想和言論的自由，為民族的尊榮，為人類的幸福而苦心焦慮，敝精勞神以致身死的人，現在在這里安息了!
我們相信，形骸終要化滅，陵谷也會變遷，但現在墓中這位哲人所給予世界的光明，將永遠存在!
中央研究院胡故院長適之先生治喪委員會立石10月18日，“中央研究院”院務會議決議，以胡適生前住所作為“胡適紀念館”
，並成立管理委員會。 1964年8月，美國美亞保險公司負責人史帶先生捐贈美金25000元，1970年5月，史帶基金會又捐美金25000元，為胡適紀念館基金。
胡適生前留有英文遺囑，其主要內容有：一、請求火葬(按，後改棺葬是胡適夫人江冬秀的意見)；二、遺留在北京的102箱書籍、手稿、文件，捐贈北京大學；三、留存在紐約寓所的書籍、手稿、文件，捐贈台灣大學；此外還有遺產處理等項。但清點胡適在南港的財物時，除了書籍、文件之外，餘款僅135美元。
①關於胡適喪儀的情況，主要根據台北《青年戰士報》記者周嘯虹的報導《萬人悲悼胡先生》(1962年3月3日)，及香港《工商日報》記者黃銘黃仰山的報導《一代哲人，蓋棺論定》(1962年3月6日)。