魏晉南北朝是中國歷史上政局變動較大的時期。政權更迭頻繁，社會秩序混亂，在一定程度上影響了經濟與文化的發展。但是，由於當時中西交通的發展，各個民族頻繁地接觸，加之佛教的興盛，又推動了文化的進步。與此相應，便於書寫的楷體逐漸取代了隸書，紙張作為書寫材料也普遍起來。所有這些，都使藏書有了較快的發展。
東漢末，董卓進軍洛陽，廢少帝劉辯，立劉協為獻帝。初平元年(公元190年)董卓又逼獻帝遷都長安，皇家藏書要跟著搬運。因時局混亂，辟雍、東觀、蘭台、石室、宣明、鴻都所藏之書，散失很多。許多用縑帛寫的書卷被軍人用做車帷和口袋。餘下來運往長安的圖書簡帛不過只有70餘車。僅有的這些圖書，在途中又丟失與損壞過半。運抵長安後不久，又遇戰亂，使殘存的皇家藏書喪失殆盡。
魏王曹操雄才大略，十分重視圖書的收藏，他在征戰中就注意收集圖書。建安三年(公元198年)曹軍戰敗呂布，眾官收集戰利品，“唯袁渙取書數百卷”敬獻曹操，深得曹操讚賞。建安五年(公元200年)官渡之戰曹操打敗袁紹，把袁紹的全部圖書收歸己有。曹操統一黃河中下游以後，御史大夫袁渙建議曹操收集天下圖書。他“以為可大收篇籍，明先聖之教，以易民視聽，使海內裴然向風，則遠人不服可以文德來之”(《三國志·魏書·袁渙傳》)。 《後漢書·董祀妻傳》記載曹操詢問蔡文姬過去家藏圖書的情況，並準備派10名文吏幫助記錄與整理。蔡文姬說，其父蔡邕有書4000多卷，她能誦憶的400餘篇；並自己動手“繕書送之，文無遺誤”。可見曹操是十分重視圖書的收集工作的。
咸熙二年(公元265年)，司馬炎建立了晉王朝，史稱西晉。西晉直接繼承r魏的藏書，並註意收集天下圖書。咸寧六年(公元280年)，晉滅吳時，王濬進建業(今南京)時，首先“收其圖籍，封其府庫”，運往洛陽。西晉除將原來魏、蜀、吳三國圖書集中外，也獲得各地不少獻書，涼州刺史張定〔shi 時〕就送不少經史圖籍至洛陽。據《隋書·經籍志》記載，西晉國家藏書分成四部：甲部為經部；乙部為諸子；丙部為史書；丁部為詩文集，共有29945卷。
西晉後期，社會動盪，諸王相互殘殺，文化遭到摧殘。圖書的損失比東漢末年還甚。公元317年，司馬睿〔rui 銳〕建立東晉，設都於建康。他雖然注意收集散失的圖書，但效果不大。東晉初，藏書只有3014卷，僅為西晉藏書的1/9。
魏晉時國家藏書，私人可以藉閱，這與兩漢時期嚴格控制閱讀的情形，有了很大的不同。 《晉書·皇甫謐〔mi密〕傳》記載，西晉皇甫謐“耽玩典籍，忘寢與食，時人謂之'書淫'”。有人說他這樣會損害身體，他說“朝聞道，夕死可矣！”他曾上表給晉武帝，要求借書。武帝送了一車書給他，他雖臥病，依然披閱不怠。
魏晉的圖書管理機構，大體是繼承了東漢的管理體制。曹操建秘書、中、外三閣為國家藏書處。設立了主管圖書的官員秘書令(監)，下設秘書丞、秘書郎、校書郎等官職。擔任過這些職務的有鄭默、王像、薛夏、王肅等人。吳國孫權也努力蒐集圖書，建立了圖書管理機構——東觀。蜀國還任重臣郤〔xi細〕正為秘書郎，吳國任華覈〔he核〕為東觀令。
晉襲魏制，國家藏書處有秘閣、蘭台、崇文院，後又建石渠閣。晉惠帝司馬衷恢復了秘書監，下設秘書丞、秘書郎、著作郎、佐著作郎等。當時圖書分為經、子、史、集四部，晉武帝時為此設秘書郎四人各管一部。西晉的荀勖〔xu序〕、東晉的李充都擔任過秘書監。
南朝(公元420—589年)包括宋、齊、梁、陳。與戰亂不已的北方相比，南朝相對安定，也較重視文事。一方面，北方人口大量南遷，隨之將圖書南移；另一方面，南朝統治者也注意收集圖書，使圖籍增加較快。
宋武帝劉裕在任東晉大將軍時就注意收集圖書。元熙二年(公元420年)劉裕稱帝，接管了東晉全部藏書。據王儉編制的目錄，宋的藏書在元徽元年(公元473年)為15704卷。南齊時，在齊武帝蕭賾〔ze責〕永明年間(公元483—493年)，圖書增加到了18010卷。梁武帝蕭衍即位不久，下詔向民間收書，使國家藏書迅速增加，僅宮內文德殿就藏圖書23106卷之多。梁武帝之子元帝蕭繹〔yi 義〕酷愛書籍，多次收、抄、買書，遂使秘府藏書達10萬多卷，為梁朝藏書之冠。
梁朝圖書曾遭兩次焚毀。中大同二年(公元547年)，梁武帝慰問東魏降將侯景部隊時失火，使建康城內“東宮圖籍數百櫥，焚之皆盡”。在此之後的第二年，侯景舉兵攻占建康，逼死梁武帝。梁武帝的兒子湘東王梁繹平定了侯景之亂，在江陵(今湖北江陵)稱帝，為梁元帝。元帝收羅文德殿及建康各處藏書，共有七萬多卷，移至江陵。又從私人藏書者徵購與繕抄所缺圖書，使梁朝圖籍得以恢復。承聖三年十一月末(公元555年1月)，北朝西魏軍攻占江陵。梁元帝投降被殺。在投降前，他感到“讀書萬卷，猶有今日”，在悲鬱中下令侍從高善寶把梁朝所聚古今圖書14萬卷付之一炬。這是中國藏書史上的又一次巨大損失！
南朝宋、齊、梁、陳四朝都設有秘閣典藏圖書。梁朝由於圖書較多，便採取分類收藏，佛教經籍收藏在華林園；經、史雜書放在秘閣；其他則藏在文德殿中。梁朝已註意到復本書的問題，他們將復本書藏在其他地方。
南朝圖書管理機構基本上由秘書省主持管理，設秘書監，下設秘書丞、秘書郎、著作郎等官職。這個時期門閥制度極為盛行，士族子弟多慕高官清職，所以秘書省的這些官職多為他們所擔任。如謝靈運(公元385—433年)、王儉(公元452—489年)、任昉(公元460—508年)曾經分別任宋、齊、梁各朝主管圖書的官員。
在北方，至北魏統一之前，為十六國割據時期。由於連年戰爭，藏書事業根本提不到日程上。個別統治者雖想收集圖書，但因時局混亂，收效甚微。魏太武帝拓跋燾於太延五年(公元439年)統一北方。在北魏之後，北方相繼出現東魏、西魏、北齊、北周，連同北魏，共為五個朝代，是謂北朝。由於北魏注意吸收漢文化，道武帝、獻文帝和孝文帝相繼三次發起訪書、徵書活動。特別是魏孝文帝遷都洛陽，實行改革，推行漢化。於太和十九年(公元495年)下令“求天下遺書，秘書所無，有裨益時用者，加以優償”(《魏書·孝文帝紀》)。為了準確地搞清北魏缺書情況，他派人編制了一部《魏闕書目錄》，按籍索書，並到南朝的齊朝借書令人繕抄，使秘府圖書逐漸充實。北魏末年，爾朱榮叛亂，國家藏書又大批散失。之後國家分裂為東魏與西魏，接著東、西兩魏為北齊和北周所取代，北齊國家藏書不過萬卷，北周僅有5000捲而已。
在魏晉南北朝的300多年裡，國家分裂動盪，戰亂不已，王朝更迭頻繁。政局稍一穩定，國家便徵集圖書；一有戰亂，圖書就遭受損失。因此，這一時期國家藏書形成旋聚旋失的局面。
由於紙張的出現，書籍便於繕寫與保存，所以私家藏書見於記載的比兩漢為多。三國時期曹魏時哲學家王弼(公元226—249年)藏書多達萬卷，並著有《老子注》、《周易注》等書，為魏晉玄學的開創人物。建安七子之一的王粲(公元177—217年)是一位著名藏書家，曾經得到蔡邕數千卷的贈書。蜀國最著名的藏書家是向朗，他“潛心典籍，孜孜不倦。年逾八十，猶手自校書，刊定謬誤，積聚篇卷，於時最多。開門接賓，誘納後進”《三國志·蜀書·向朗傳》。西晉最為著名的藏書家是張華(公元232—300年)，《晉書·張華傳》說他在搬家時“載書三十乘”。並說他“雅愛書籍，身死之日家無餘財，唯有文史溢於幾篋”。在張華的藏書中，有不少“天下奇秘、世所希有者”，以致秘書監選定國家藏書時不得不靠張華藏書的一些版本來校正。另外，《晉書·範平傳》載，西晉的范蔚有書7000餘卷，常有遠近百餘名讀者前來他家看書，范蔚非常熱情好客，還為他們準備飯食。南朝的國家藏書因政局動盪，損失很大，但私人藏書卻受影響較少，以致出現了一些藏書達萬卷的藏書家。如梁武帝蕭衍的女婿張纘聚書數万卷，恐怕是當時最大的藏書家了。陸澄藏書也很多，《南史·張率傳》記載“澄有書萬餘卷”，張率與其子陸少玄友善，常去陸家去閱讀其書。 《南史·陸澄傳》說時人開玩笑稱陸澄為“書櫥”。他家多藏世之佚書，為人所罕見。另一著名藏書家為南齊的崔慰祖，在《南史·崔慰祖傳》中記載他“好學，聚書至萬卷，鄰里年少好事者來假借，日數十，親自取與，未嘗為辭。”此外，王僧孺、張緬、沈約、任昉也都是當時有較多藏書的藏書家。
北朝的私人藏書比南朝少，範圍也有限。顏之推、辛術、司馬子端、李謐等都有較多的藏書。辛術不但僱人抄錄自己沒有的圖書，而且還派人到淮南收集南朝的佳本，故使他的藏書突破萬卷。
魏晉南北朝時期儘管社會動盪，連年戰爭，但不少典籍得以保存和流傳，原因有二：第一，紙張產生，抄錄書籍成風，遂使孤本書得有復本。史書記載了不少學者矢志抄書的感人事蹟。南朝梁朝的袁峻早年喪失父母，家貧無書，但勤奮，好學，常向人借書手抄，每日抄15紙，紙數不足則不休止。 《南史·沈麟士傳》載，南齊人沈麟士，家貧，以織竹簾為生，常藉書以背誦，織簾、誦書，口手不息。後隱居，講經讀書。其間，他的藏書被燒，他雖年逾八十，仍然抄書，矢志不渝，幾年後，“卷滿數十篋”。我國的許多古代典籍就是在眾多的好學之士的盡力抄錄之下才得以保存的。第二，不少藏書者十分珍視圖書，注意珍藏，嗜書如命，遂使典籍保存完整。 《南史·丘巨源傳》記載，虞和家貧屋漏，恐怕雨水打濕了圖書，便打開被子，將書蓋上，結果“書獲全而被大濕”。