山东省图书馆

于学忠下野后，所部归冯玉祥统辖。冯命令阎得胜率原第七师一旅移驻郑州，刘遒昌旅驻许昌，毛永恩、杨殿云、马廷福各师则分驻驻马店一带。原于学忠部将领见冯采用分裂调拨的方法，企图瓦解该军，都很气愤，遂联合密谋将部队拉出。除阎得胜率领的一个旅及秦建斌师无法拉出外，其他部属在突袭孙连仲部之后，一律东开，拉至安徽蒙城，并共推于学忠之原秘书长查炜、副官长李俊襄、团长张砚田为使者前往蓬莱找于学忠想办法。
  早在1926年冬，于学忠率部从鄂入豫，东北军曾派人与他取得联系。嗣后，张作霖特派参议尹同愈等三人与于学忠接洽，希望他与奉军合作，共同对敌。他当时亦只表示乐意合作，但没有接受张作霖的任何支援。查炜、李俊襄和张砚田到蓬莱找于学忠一事为张作霖父子所闻，张学良即派周光烈持函邀请于学忠去北京商谈有关事宜。为了谋求原第九军的出路，他遂与查炜、周光烈一行赴北京。
  于学忠抵北京后，在中南海怀仁堂受到张作霖的接见。张语极爽直，说：“我与令尊系少年朋友，旧在宋老帅（指毅军统帅宋庆）部下共事5年，此是事实，并非我自居尊长。我们不是外人。”相互间言谈融洽。他说只求部队得以安置，去军之将，无劳垂念。张说：“不然，今日奉军并不需要多此三两师人，只是相信你，要你合作。此军仍须你统带。你对吴子玉（吴佩孚）情形，我们都已知道，但能以对吴者对我，就已够了。此后服装、粮饷、给养、军械均按奉军发给，你可即去将军队整理带到北方。其他事可与学良接洽。”嗣后，于学忠拜谒了张学良；又与军事部次长杨毓珣商谈编制等问题。于学忠被任命为镇威军第四方面军团第二十军军长，仍统率旧部。
  于学忠即乘津浦车南下。至军部驻地，速将部队迁往南宿州整顿。除毛永恩第十八师投靠直鲁联军张宗昌外，他将余部重新编为三个师，以原第七师旅长刘遒昌、原第二十五师旅长杜继武、原第二十六师师长马廷福分任师长，然后率部北上。
  1927年8月，直鲁军与孙传芳联军，西败于冯玉祥军，南败于蒋介石军，集结于徐州，由张宗昌亲自指挥。于学忠军抵徐州时，西北军已进攻徐州，并先后占领九里山、北车站等重要阵地。他命令所部飞机场集合，即往见张宗昌。张宗昌直言相告，说明前线难以支撑。并说：“敌人正在猛攻，如此一退，则必失数万人。”张要于学忠助一臂之力，他即应允，下令所部以两团兵力先攻北车站，限拂晓前夺回九里山。时已深夜，雨雪交加。他亲自指挥，至翌日凌晨，占领了九里山阵地。对此，张宗昌极力致谢，并电请北京将于学忠暂留鲁协防，他接到北京准缓北行的电令后，遂移防济宁。一月之后，又奉令开至河北东光。
  这时，张学良亲来东光检阅。经月余整训补充，于学忠部复奉命前往京汉线参加彰德以北西迄涉县之线，与马占山诸部协同作战，抵抗西北军。不久，山西阎锡山所部攻入河北，奉张学良之令，于学忠部以14小时行140里的速度，抵保定西25公里之奇村一亩泉，援助王树常部，将晋军阻止，复又奉命撤至廊坊停止待命。是年9月，他晋升为陆军中将，获二等文虎勋章。12月，授捷威将军名号。
  1928年6月，张作霖通电返奉途中，在皇姑屯被日本人炸死。张学良既继掌东北军政、旋亦出关，令所部继续东退。于学忠部经杨村、唐山、移驻乐亭。不久，又奉命驻山海关。这时，他任临绥驻军司令。12月29日，东北“易帜”，全国号称统一。他改任东北边防司令长官公署军事参议官。