《周礼》中「五人为伍，五伍为两，四两为卒，五卒为旅，五旅为师，五师为军」的记载，对这支成分复杂的大军，进行了大刀阔斧的整编。
他深知，若想将所有票帅麾下的部队全部打乱重组，不仅阻力巨大，而且在短时间内也不利于草军形成有效的战斗力。
因此，他采取了一种更为务实的折中方案。
他依旧让各大票帅统领各自的核心部队，但对部队的规模和编制，进行了强制性的规定。
如兵力满万者，便可单独立为一「军」，授军帅之职；如不满万，则必须与其他实力较弱的大小帅进行混编，共同组成一「军」。
如此一来，原先鄂州大营那号称十余万，实则良莠不齐的草军，经过一番汰弱留壮，最终被整编为八个主力「老军」。
分别由毕师铎、柴存、秦彦、王重霸、李罕之、黄邺、黄揆、黄钦八人担任军帅。
其中，毕师铎和柴存是跟随王仙芝起家的元老，麾下老卒精锐，兵力皆过万，顺理成章地各自独领一军。
而秦彦、王重霸、李罕之三人，则瓜分了之前被王仙芝斩杀的柳彦章所部的老营，也各自凑足了一军的编制。
剩下的三军，则全部由黄巢的亲兄弟黄业、黄揆、黄钦担任军帅，摩下也皆是原先黄巢的本部精锐。
实际上，在这一次整编中，黄巢是裁汰冗兵、筛选精锐最为彻底的。
他将自己麾下数万兵马反复甄选，最终实打实地练得了三万战力最强的核心部队，其真实战力，恐怕比其他五位军帅加起来还要强悍。
但王仙芝看着自己这一系，名义上占据了五军的名额，便也没有多想，默认了这种划分。
之后，为了明确各军归属，加强指挥效率，黄巢又下令，通过旗帜的颜色、
号衣的款式以及统一样式的腰牌，来表明各军的番号。
这样一来，通过整编八军，王仙芝、黄巢二人，极大地削弱了那些大票帅对自己本部兵马的绝对控制权，将指挥权牢牢地收归到了中军。
其次，便是统一号令，严明军法。
他规定，全军上下，只认王仙芝的都统大纛与他本人的将令。凡战时，闻鼓而进，闻金而退，有敢擅自行动、临阵脱逃者，立斩不赦！
然后将唐军的军法做了一遍删减，便作为了草军自己的军法。
当然黄巢也有自己的发挥，其中最重要的一条就是，草军丢了领将后，其所在的部队将全部被驱赶离开草军