元軍攻下厓山以後，張弘範召集將領，舉行慶功宴會，把文天祥請來。宴會席上，張弘範對文天祥說：“現在宋朝滅亡，丞相已經盡到最後一片忠心。只要您回心轉意，歸順我們大元皇上，還能保持您丞相的地位。”
文天祥含著眼淚說：“國破家亡，我身為宋朝大臣，沒能夠挽回局勢，死了還有罪孽，怎麼還能貪圖活命呢。”
張弘範一再勸降，沒有結果，只好派人把文天祥押送到大都。
過了半年，文天祥被押到大都，元王朝下令把他送到上等的賓館裡，用美酒好菜招待他。過了幾天，元朝丞相博羅派投降官員留夢炎去勸降。文天祥對這個叛徒早已深惡痛絕，現在見他居然老著臉皮來勸降，更是火冒三丈。沒等留夢炎開口，就一頓痛罵，把留夢炎罵得抬不起頭，灰溜溜地走了。
元朝對文天祥勸降不成，就把他移送到兵馬司衙門，戴上腳鐐手銬，過著囚徒的生活。
過了一個月，博羅把文天祥提到元朝的樞密院，親自審問。
文天祥被兵士押著，來到樞密院大堂，只見博羅滿臉凶相，坐在上面。文天祥正眼也不看，昂起頭，挺直腰桿走上前去。左右兵士吆喝他跪下，被文天祥拒絕了。
博羅惱羞成怒，喝令左右動手。兵士們把文天祥拉的拉，推的推，將文天祥按倒在地上。
博羅說：“你還有什麼話可說？”
文天祥坦然說：“從古以來，國家有興有亡，做大臣的被滅被殺的，哪一個朝代沒有？
我是宋朝的臣子，現在既然已經失敗，只求早死。 ”
博羅怕審問出現僵局，想緩和一下空氣，就說：“自從盤古到現在，有幾個帝王，你倒說來聽聽。”
文天祥哼了一聲，說：“一部十七史（指《史記》等十七部歷史書），從哪裡說起？我今天不是到這裡來應考，哪有心思跟你們閒扯。”
博羅被文天祥搶白幾句，討個沒趣，就無理取鬧地責問文天祥為什麼丟了臨安逃走，為什麼要另立二王（指趙昰、趙昺）。文天祥一條條據理駁斥，最後，他慷慨激昂地說：“我文天祥今天落在你的手裡，早就準備一死，何必再嚕囌！”
博羅氣得吹鬍子瞪眼睛，喝令把文天祥押回兵馬司。他想殺掉文天祥。但是元世祖恐怕殺了文天祥，民心不服，不同意把他殺害。
文天祥被關的那間土牢，又矮又窄，陰暗潮濕。遇到雨天，屋面漏水，滿地是水；一到夏天，地面上發出一陣陣蒸氣，更加悶熱。牢房的隔壁，有獄卒的爐灶，有陳年的穀倉，發出陣陣煙火氣、霉氣，再加上廁所里大糞的氣味，死老鼠的臭味，使人極其難受。
文天祥被關在這間牢房裡，惡劣的環境只能折磨他的身體，卻並不能摧毀他的意志。他相信，只要有愛國愛民族的浩然正氣，就能夠戰勝一切惡劣的環境。
他在牢房中，寫下了千古傳誦的《正氣歌》。他在那首詩裡，舉了歷史上一些堅持正義、不怕犧牲的忠臣義士的例子，認為這都是正氣的表現。他在詩中寫道：
天地有正氣，雜然賦流形。
下則為河嶽，上則為日星。
於人曰浩然，沛然塞蒼冥。
……時窮節乃見（同“現”字），一一垂丹青。
（意思是：天地之間有一種正氣，分別表現為各種物體。如地下的大河高山，天空的明星辰。在人的身上就表現為浩然之氣，充塞在宇宙之間。……到了危急的關頭，才表現出他的氣節，他們的事蹟一件件留在史冊上。）文天祥進牢的第三年，河北中山府發生了一場農民起義。起義領袖自稱是宋朝皇室的後代，聚集幾千人馬，號召大家打進大都，救出文丞相。
這一來可把元王朝嚇壞了，如果不殺文天祥，恐怕鬧出大亂子來。元世祖還沒有丟掉招降的幻想，決定親自勸降文天祥。
一天，文天祥被人從牢房裡押出來，帶到宮裡。
文天祥見了元世祖，不肯下跪，只作了個揖。元世祖問他還有什麼話說。文天祥說：
“我是大宋宰相，竭心盡力扶助朝廷，可惜奸臣賣國，叫我英雄無用武之地。我不能恢復國土，反落得被俘受辱。我死了以後，也不甘心。”說著，咬牙切齒，不斷地捶打自己的胸膛。
元世祖和顏悅色地勸說：“你的忠心，我也完全了解。事到如今，你如果能改變主意，做元朝的臣子，我仍舊讓你當丞相怎麼樣？”
文天祥慷慨地說：“我是宋朝的宰相，哪有服侍兩朝的道理。我不死，哪還有臉去見地下的忠臣烈士？”
元世祖說：“你不願做丞相，做個樞密使怎麼樣？”
文天祥斬釘截鐵地回答說：“我只求一死，別的沒有什麼可說了。”
元世祖知道勸降已沒有希望，才叫侍從把文天祥帶出去。
第二天，就下令把文天祥處死。
這一天，北風怒號，陰雲密布。京城柴市的刑場上，戒備森嚴。市民們聽到文天祥將要就義的消息，自發集中到柴市來，一下子就聚集了一萬人，把刑場團團圍住。只見文天祥戴著鐐銬，神色從容，來到刑場。他問旁邊的百姓，哪一面是南方。百姓們指給文天祥看了。
他朝著正南方向拜了幾拜，端端正正坐了下來，對監斬官說：“我的事結束了。”公元１２８３年一月，這位四十七歲的民族英雄終於犧牲，在民族危亡時刻，表現了他一身的浩然正氣。