中共中央军委曾提出将八路军扩编为3军9师，但国民政府军事委员会并不同意。在这种情况下，为了抗日战争的需要，人民军队的发展，当然不能受国民党方面的控制。比如，在一些被日寇攻占的地区，国民党军队早已“撤退”。但“寇能往，我亦能往”，八路军、新四军在这些敌占区发展武装、收复失地，是完全正当合法的。国民党军队自己没有能力收复失地，反而对八路军、新四军的抗日行为加以种种限制，从道义上完全站不住脚。
因此，为了抗战的需要，同时避开国民政府规定的三个师的编制限制，后来八路军、新四军新成立的部队，大多以纵队、支队、总队、大队等编制命名，还成立了大量的独立旅、独立团、警备团、教导团、新编团等等。有时，为了临时某个战略目的需要，协调多个不同来源部队的作战，也会临时把这些部队编成一个纵队。抗战期间，八路军、新四军成立的纵队，是下辖几个旅级单位的师级单位，如：八路军于1939年5月组建山东纵队（后来因为成立了其他纵队，又改称为八路军第一纵队），级别与八路军的三个正规师平级。
但是由于没有得到国民政府认可，如果直接以“某某师”命名，则目标太大，容易刺激国民党，对人民军队的发展壮大不利。总之，在人民军队快速发展过程中，新成立或者扩编的部队，番号没有那么正规。新四军和游击队，较多以“一纵、二纵、第一支队、第二支队、县大队”等方式命名。八路军的正规部队，除了师级和纵队番号，下辖的作战单位，则更多以“独立团、新编团”等形式命名。
这些部队，在国民党方面来讲，得不到承认，因此也得不到国民政府的给养后勤保障。电视剧《亮剑》中的李云龙，在国共合作时期，任国民革命军第18集团军（八路军）129师386旅独立团团长，他这个“独立团”，就是没有得到国民政府承认的，装备、补给要靠自己找米下锅。李云龙率部渡黄河时，楚云飞的358团守着渡口，不让李云龙过黄河，理由就是因为李云龙这个团没有国民政府授予的编制。
后来李云龙跟着程瞎子的772团混过了黄河，而772团的番号是国民政府授予的。抗战胜利后，人民军队的发展需要。抗战胜利后，国共双方谈判，达成停止军事冲突的《关于停止国内军事冲突办法的协定》。根据协议，正式组成了“军事调停三人小组”，由中国共产党代表周恩来，国民党代表张群（后为张治中），美国总统杜鲁门特使马歇尔三人组成，并设立了军事调处执行部。
任务是：协商停止军事冲突、恢复铁路交通、以及军队整编等方面的问题。之后，国民党方面整编部队，军改为整编师。比如：头号王牌主力国民革命军第七十四军，被改编为整编第74师。而共产党军队，如何整编，具体保留多少武装力量？国共双方一直没有达成一致的意见。国民党方面始终采取压制策略，希望通过谈判，削弱中共的武装力量。
而实际上，此时人民军队已经发展得非常强大。到了解放战争初期，人民解放军各战略区一共编成了27个野战纵队，每个纵队一般下辖3个师，或者下辖2～3个旅。纵队级别相当于军一级，纵队司令相当于军长。之所以没有直接以“军”命名，目的还是为了争取和平谈判，不刺激国民党，避免内战，同时保留自己应有的权利。此外，也是为了和“八路军”、“新四军”这样的“军”级番号相区别。
1946年全面内战爆发后，人民军队普遍采用纵队编制。如晋冀鲁豫军区组建了5个纵队，山东野战军和华中野战军各组建了3个主力纵队，晋察冀军区编有4个纵队，中原军区也编有2个野战纵队。解放战争初期人民军队的纵队，大多由抗战时期的主力师扩编而成，如原新四军第1师，扩编为华东野战军的第4纵队。原新四军第3师，扩编为东北野战军的第2纵队。
应当讲，纵队的编制脱胎于游击战争，因此带有临时性质，人数并不固定。例如，解放战争时期的东野2纵，是东野的主力王牌，在黑土地上以善打大仗、硬仗、恶仗著称。其前身是新四军第三师，进军东北时，该师就已达到37,000多人，第三师下辖第七旅（旅长彭明治，政委郭成柱），第八旅（旅长张天云，政委李雪三）、第十旅（旅长钟伟，政委王凤梧）。
此外，还有一个独立旅（旅长兼政委吴信泉），以及三个师直属特务团。实际上，当时第三师的一个旅就相当于其他部队的一个师了。1946 年8 月，第三师机关一部组成西满军区。黄克诚任西满军区司令员。同年9 月，第三师主力被改编为东北民主联军第二纵队，司令员刘震，政治委员吴法宪，副司令员兼参谋长吴信泉。原第三师的各个旅，则分别上升为师。
