1363年，朱元璋麾下一位将领不知道自己旗下有多少人马，朱元璋因此而生气。
次年，也就是公元1364年，朱元璋开始推行一种全新的标准的军队编制表，他将过去野战军中各翼元帅府改称为‘卫’。‘卫’的编制为五千人，再分成一千人一组的千户所，千户所再拆分成百人一组的百户所。
部队指挥官都要放弃原有的称呼和荣誉爵位，现在的人马统一接受新的军衔。朱元璋明确允许卫以下的军衔世袭，军户世袭制同时也承袭了元代的兵制。
1364年明军改制，在明军中服役的老兵，即朱元璋在攻打陈友谅的时候亲自带领过的主力士兵被分派成17个卫，这个集团的老兵被准许可以完全退休。其他部队的人则被派去南京地区搞军屯