事权太重，遂于洪武十三年分大都督府为中、左、右、前、后五军都督府，掌管军籍、军政，各领所属都指挥使司和卫所，分而治之，并将军令改由兵部掌管，五军都督府就形同摆设一般，五军都督府的正一品左右都督、从一品的都督同知和正二品的都督佥事这些职位也就成了荣誉性的勋职，一般都是由世代簪缨的勋臣和皇上的岳父、小舅子、女婿等贵戚出任，或是授予资深望重、战功卓著的军中大将，仍是虚衔，给他们解决官阶品秩而已。
这几年里，明军一直在悄然进行军制改革，不但组建了禁军，还将全国卫所撤裁归并，给大部分的军户分发了田地，将之转为民籍，等于是在不动声色之中将卫所军户制改成了募兵制，掌管军政、军籍的五军都督府就更显得多余。去年年底，朱厚熜便下旨将前后左右中五军都督府合而为一，为了不给旁人留下违背祖制的口实，不敢改称“大都督府”，仍叫“五军都督府”，简称也还是叫“五府”，不过已不是五个衙门，而是一个衙门。这个名义上的大明王朝“天下兵马大元帅”，自然非三朝元老、军中硕勋，又有平定江南叛乱之盖世奇功的太师英国公张茂莫属。
如此一来，太师成国公朱至孝等众多勋臣贵戚要么屈居张茂之下，要么被削去了荣誉性