清末，圖書館的行政管理隸屬於中央主管教育的機構——學部。
學部設大臣，下設左右丞，管理圖書館事項。清政府又在各省設提學使司，作為新式省一級的教育行政機關，上面受中央的學部和本省督撫領導。提學使司下設學務公所，公所下分六課：總務課、專門課、普通課、實業課、圖書課、會計課。各省圖書館統一歸圖書課領導。京師圖書館歸學部領導。
1911年爆發辛亥革命，次年臨時政府成立。圖書館行政管理隸屬於教育部。 1914年7月頒布“教育部官制”，其中規定總務廳負責“學校、圖書館、博物館等修建事項”。社會教育司負責“博物館、圖書館事項”和“各種通俗博物館、通俗圖書館事項”(見《第一次教育年鑑·甲編·教育總述》)。 1918年12月《教育部分科規程》中，規定總務廳下屬庶務科負責“本部所轄學校、圖書館、博物館等修建事項”和“調查公立私立學校、圖書館、博物館等設置”事項；社會教育司下屬第一科(圖書博物科)負責“博物館圖書館事項”。第二科(通俗科)負責“通俗圖書館巡迴文庫事項”。正是根據這個規定，民國初期的教育部社會教育司對京師圖書館選址、調書等事項，才由周樹人(當時為第一科科長)負責辦理。
1928年6月頒布的《修正中華民國大學院組織法》，改教育部為大學院，取消各省教育廳，把全國劃成若干個大學區，負責管理各地教育、學術機關。規定大學院直接管理國立學術機關，其中包括國立圖書館。各大學區設立教育處，負責公立圖書館事務。大學區取消後，恢復省教育廳制，規定教育廳第三科(即社會教育科)負責圖書館、博物館事項，縣教育局條例中，規定教育局負責學校、圖書館、博物館及其他文化事業。
關於圖書館內各級機構的設置及職能範圍，在1939年公佈的《修正圖書館規程》及《圖書館工作大綱》裡都有詳細規定。一般說來有行政部門：負責處理文書、會計、庶務等事項；採編部門：負責選購、徵集、分類編目等；閱覽部門：負責庋〔gui軌〕藏、流通；特藏部：負責善本、輿圖、地方文獻；參考研究：負責諮詢、研究、輔導等。
總之，所謂隸屬關係，就是歸誰管理，歸誰領導，誰撥經費的問題。
民國時期圖書館雖然發展很快，但經費不足，管理落後，始終是困擾著圖書館發展的關鍵環節。有人指出，當時政府用於教育的經費極少，用於社會教育者甚微，而社會教育中用於圖書費者則更微乎其微。據四川省教育廳調查，1935年全省有圖書館138所，藏書共93萬冊，當年經費91182.6元，平均各館為660.7元。青海省圖書館經費為1800元，西康省館僅有260元。浙江金華縣立孝順民教館圖書經費竟少到16元。該館藏書102冊，且所藏多係從前書院舊物，多為不合時代需要之古書。
大學圖書館較之公共圖書館經費稍為寬裕一些，1931年教育部視察北平各校後，不得不承認“設備非常缺乏，圖書館大半有名無實，經費方面，薪金往往佔預算十分之八以上，而設備費則在十分之一以下”。北京大學每年圖書館經費7.5萬元，除工資外，其餘圖書設備行政費用僅有1.5萬元，1933年交通大學圖書館年購書費為2.4萬元，同濟大學只有1.6萬元，由此可見一斑！