1920年的直皖战争，以直系军阀的速胜而告终。吴佩孚是直皖战争倒皖的急先锋，战争的胜利，让吴佩孚在政治上、舆论上成为“中国当代第一号人物”。吴佩孚为此飘飘然，自以为成为不可一世的风云人物，从而在战后提出了许多政治主张。

然而，以直皖战争为借口大举入关的奉系张作霖却不把吴佩孚放在眼里，北洋政府总统徐世昌等从自身权势考虑，对吴佩孚进行排斥，就连新任直系军阀头领、吴的老上司曹锟，也对吴的“武力统一”加以否认，吴佩孚见状，便决定驻节洛阳，专事练兵，“未雨绸缪，预为准备”。

洛阳是中国九朝古都，军事重地，交通发达。中华民国成立后，袁世凯曾在洛阳建了一座中西合璧的陆军大营房，张勋、张敬尧等也都先后在此驻扎过军队和训练士兵。洛阳附近的巩县设有兵工厂；又有京汉、津浦、陇海三条铁路，交通可通武汉、南京两大兵工厂，可以为练兵提供武器枪械，具有很大的便利条件。

吴佩孚首先成立了治军机关———教育处，责成李成霖拟定了教育计划。他从其第三师步兵第十二标(团)训练入手，以一班12人为单位，全师步、骑、炮、辎重、电信、铁道、舰空诸队最满定员为1.2万人。再将幼年兵团1000人扩充为一旅6000人，合计为1.8万人。在训练中，该团的一切设备、给养十分完备，采取封闭式训练，不许外人参观。

在小范围军事训练成功的基础上，吴佩孚即开始对直系师旅部队的轮训。他认为“盖得一良将，即可得无数精兵也”，在此理念下建立军官教导团(研究团)，以三个月为一期轮训将佐，经严格考核，成绩优良者升级，恶劣者撤职。他还将直系军队进行轮训：每师出一营，每旅出一连，集合洛阳，由吴亲自督训，练成回原部队。在训练中，吴佩孚更是严格监督，经常在校场两三个小时一动不动地观操。对士兵，他提出要实行戒酒、戒色、戒财、戒气、戒烟、戒赌“六戒”，并严格强化所谓“将犹父兄，兵犹子弟；将犹师傅，兵犹生徒”的封建隶属关系。

吴佩孚还组织所谓有1500人的“幼年兵团”参加训练。幼年兵团学员为全国各省招收的10岁至15岁的青少年学生。

吴佩孚还重视现代军事技术的培养应用。他着手建立航空队，以李玉珂为航空队队长，计划“实行三三制；司令部辖三个航空大队(驱逐、轰炸、侦察)”，“添购飞机一百架”。

从1920年至1924年，吴佩孚在洛阳编练的军队计有5个正规师、两个非正规师，号称练兵10万。通过洛阳练兵，吴佩孚掌握了一支训练有素的部队，为此后抢占地盘，将陕西、两湖、河南等省纳入直系控制之下，打赢第一次直奉战争打下了坚实基础。