明太祖朱元璋為了加強國家的武裝力量，創立了都司衛所製度。洪武八年（1375年）在各省改設都指揮使司，簡稱都司。又設行都指揮使司，簡稱行都司。共計有16個都司，5個行都司。其長官為都指揮使，乃地方最高軍事長官，與布政使司、按察使司，並稱三司。
都司分隸於京師的五軍都督府。在京師和各省皆設衛所，京衛有上直衛，南、北京衛。上直衛北京26個，南京17個。京衛北京48個，南京49個。各省在軍事上重要的地方設衛，次要的地方設所，大抵5600人為1衛，1120人為1千戶所，112人為1百戶所，衛所設有指揮使，千戶、百戶、總旗、小旗等官。洪武二十六年定天下衛所，“內外衛三百二十九，守禦千戶所二十五”。全國軍兵約計180萬，在當時的世界上可以說是無與倫比的。永樂中為了鞏固東北邊疆曾設奴兒乾都司及132個衛。衛所分屬於各省都指揮使司。
明朝軍士皆另外建立戶籍，叫做軍戶，軍戶是世襲的，一旦入籍為兵就不能隨意脫籍。軍戶皆由國家分給土地，令其屯田自養，平時軍士由衛所軍官負責操練、屯田，一遇國家有事，則撥歸兵部派遣的總兵官統領作戰。戰事結束，總兵交還將印，軍士歸還衛所。五軍都督府無調兵之權，兵部無統兵之權，兵權操於皇帝一人之手。明代中葉以後，屯田破壞，軍士缺乏訓練，僅供役使，完全失去了戰鬥力，也失去了其存在的價值。