回国后，小张面临的尴尬处境是东北军没有了地盘。以前的东北军有关外的东三省，还有关内黄河以北地区。有土方有财，这些地方的税收可以养东北军的三十多万军队。
九一八事变和长城抗战后，小张丢了这些地盘，自己这三十万人马就得靠中央发军饷了。东北军原来是小张的私人武装，“吃张家的，穿张家的”，当然要听小张的。现在要靠中央发军饷，东北军以后还会听自己的吗？所以小张曾一度对老蒋表示不愿意再带东北军了，要把东北军交给国家，自己做蒋介石的侍从室主任或者京沪卫戍司令。小张这话半真半假，有试探老蒋的意思，老蒋也没当真，倒是鼓励他做点正事，洗刷之前不抵抗将军的恶名。于是小张要求去剿共。
剿共首先在鄂豫皖，红四方面军主力西征川陕后，剩余的小股留守红军当然就迅速被小张带领的国军打散甚至剿灭。小张也算在老蒋面前立了一功。
关于东北军地盘的问题，的确很难处理，因为国内地盘要么被中央军控制，要么被地方军阀占有，中央军控制的地盘老蒋不愿意给东北军，而地方军阀占有的地盘当然就更不愿意东北军去驻扎。倒是西北地区冯玉祥兵败后比较空虚，杨虎城这种小军阀也对付不了红军，于是老蒋就让小张带东北军进驻西北剿共。东北军也算是有了一块地盘，但饷械还是得依靠中央。这是小张一时无法解决的最大问题。
陕北剿共之初，东北军败得很惨：
1935年9月中旬，东北军110师、129师在甘泉崂山战役中遭新组建的15军团运用围城打援的战术，歼灭国军2个团，师长何立中毙命。
1935年10月25日，东北军107师在富县榆林桥一仗，与红15军团徐海东、程子华、刘志丹交手，损失2000多人，团长高福源被俘。
1935年11月下旬，东北军109师和106师的一个团，在富县直罗镇战役中，被中央红军和陕北红军联手全部歼灭，师长牛元峰自杀身亡。
东北军不适应红军的游击战、运动战的打法很正常，再加上对陕北地形不熟悉和轻敌，所以东北军败给红军也就不难理解了。
1935年11月，共产国际特使张浩（林育英）从苏联来到了陕北，传达了共产国际的最新指示精神，恢复了与国际的电讯联系。国际要求中共要把重心从反蒋转移到联蒋抗日，建立抗日统一战线上来。于是陕北中央开始做张学良的工作，释放俘虏的东北军团长高福原回西安劝说张学良停止剿共，一致抗日。
如今这位少帅父亲被日本人炸死，自己又被日本人赶出了东北老家，可谓集国仇家恨于一身。东北军中的青年军官绝大多数是反日的，东北的青年，尤其是东北大学的学生，都群集来到西安，高唱流亡三部曲，这确是动人心弦，张学良本人便成了东北军和东北人抗日的号手。
小张如今虽然担任着剿匪副司令的名义，但老蒋却歧视他，似乎要让他的本钱东北军在剿匪中被消灭掉。这一切逼使小张非抗日不可，而且他对老蒋也有恶感。
比如这次剿共被歼的东北军的两个师被中央取消了番号，伤亡官兵的抚恤中央不管，阵亡师长的十万元抚恤金中央也拒绝支付，这一切老蒋应该是知道甚至支持的。
不过这也不能完全怨老蒋和中央，因为那时国军吃空饷、倒卖军火是很普遍的，尤其是东北军这样的军阀部队，中央也无法清查监管。你东北军剿共未立寸功，就报这么多损失，按常理是说不过去的，因为那时的红军主力不到万人，武器装备落后，东北军加上西北军是红军的十倍，但却败得这么惨，这是不符合军事常识的。何况东北军勾结中共红军的传言已经开始流传，应该说中央这样处理东北军也是不无道理的。
