于是张国焘在接到中共中央要四方面军西渡嘉陵江策应一方面军的电报后，更坚定了他撤离川北苏区的打算。因为这样做的结果，既主动配合了一方面军，尊重了中央的意见，是一种听从中央调遣的表现。同时，也是自身的需要，不能不说是一箭双雕的万全之策。
但一旦作出撤离川北的决定，张国焘又不免有些犹豫彷徨起来。。
1933年初，酒绿灯红的大上海，鬼影憧憧，租界里密探包打听四出活动，国民党的特务鹰犬横行十里洋场。中共中央由于王明错误路线作祟，以及掌握中央核心机密的顾顺章、向忠发先后被捕叛变，在上海呆不下去，不得不迁往江西苏区，将中央的一些负责干部分别派往各革命根据地去开展工作。作为驻共产国际的中共代表团成员的张国焘，刚自苏俄归来，自愿去鄂豫皖苏区。他认为过去对这一带情况还比较熟悉，大好中原，正便于他纵横驰骋。如果以鄂豫皖为起点，再向北发展，以期在大江以北掌握更广泛的地区，这更令他心驰神往。因为自他投身革命后，在中共的一些重大原则问题上，他总与党的方针政策相左，比如中共第一次与国民党合作，中共党员参加国民党这个问题上，他持反对意见；以后的南昌暴动，他又阻挠。他自认是中共的“少数派”，一直受到中共与第三国际的指责，被斥为机会主义的代表。加之在党内他又爱搞点小宗派，以致屡遭抨击。可他总是耿耿于怀，对中央与国际的批评不以为然，有时还认为自己受了委屈。因此，共产国际认为需要很好对他进行帮助教育，遂将张国焘调往莫斯科。这样做的结果也是为了让中共的领导好放手去工作，以免张国焘的干扰。张国焘同妻子杨子烈在苏俄一住就是六年，脱离了国内残酷的阶级斗争的异域生活，终不是那么的风平浪静，他又或多或少卷进莫斯科孙逸仙大学（中山大学）的风波，与中共驻共产国际代表团的负责人瞿秋白产生矛盾，又同共产国际东方部中国部的负责人多有龃龉。他对自己在国内所犯错误在共产国际有关负责人面前，总是闪烁其词，或作诡辩。他始终认为自己“高明”，没错；要错也是中共的某些负责人或共产国际，或斯大林其人。这时，正好他所反对的李立三下台了，中共的领导权正由留俄回来的一些年轻人所掌握，他这个老牌的共产党人，应该回去“收拾”中共的“残局”，机不可失。于是在国际领导机构做了一番检查之后，斯大林才向他发放了通行证。
张国焘回国后，并没被国际所赏识，提高到中共领导人的地位，国际所信任的是像王明这样的教条主义的青年。他看到中央没有他的席位，于是当中央自上海迁往江西苏区分发其他高级干部至各苏区的时候，他主动提出去鄂豫皖，他决定在那儿甩手大干一番，打出一个天下来，再与中央理论。
1931年三月中旬，张国焘以鄂豫皖中央分局书记与军委主席的身份，来到鄂豫皖苏区，同他一起来的还有沈泽民与陈昌浩。从此，张国焘开始了他的5年游击生涯。
鄂豫皖苏区，原有曾中生等一批红军将领在那儿领导斗争。张国焘这个“钦差大臣”到了不久，借肃清“立三路线”、“整肃”为名，将曾中生、许继慎等一批重要干部削职的削职，查办的查办，砍头的砍头。曾中生原为鄂豫皖中央分局委员、革命委员会副主席，四方面军政委，也因张国焘的排挤打击，不断受到降职、撤职的处分。鄂豫皖军委会皖西分会主席兼四军十二师师长许继慎，竟遭到杀害。
红四方面军在蒋介石第四次大规模进攻面前，最终撤出这片血肉相濡的土地，不得不作开发川北新苏区的千里之行。
张国焘、徐向前、陈昌浩率领红四方面军辗转来到巴山蜀水，一切又得从头做起。终于又开辟出新的川陕苏区。
四方面军于1932年底入川之后不久，张国焘、徐向前领导四方面军采取行之有效的积极防御的方针，在长达10个月的艰苦战斗中，四方面军以付出伤亡两万余人的代价，换取粉碎刘湘的“六路围攻”、歼敌人万余人的重大胜利，使川陕苏区空前扩大。东起城口，西抵嘉陵江，南至营山、渠县，北迄陕南的镇巴、西乡、宁强，总面积达42000余平方公里，人口400余万，建立了23个县和一个市的苏维埃政权。此时，红四方面军已从入川时的四个师、15000余人发展到4个军、8万余人。
从鄂豫皖苏区到川陕苏区的建立，四方面军从小到大，从弱到强，张国焘付出了很大的心力与才思。不管是勾心斗角也好，打击陷害也好，明争暗斗也好，身体力行也好，发号施令也好，心毒手辣也好，甜言蜜语也好，体恤下属也好，虚伪矫饰也好，文过饰非也好，独断专行也好，拉帮结派也好，两面三刀也好，暗渡陈仓也好，明火执仗也好，见风使舵也好，个人奋斗也好，群策群力也好，张国焘终于学会了一套组织领导一支庞大武装力量的特殊技能。他以拥有这支庞大的军队而自豪，他以握有这支重要的武装力量而自重，他以控制这支庞大的军队而自恃。历史，终于没有辜负他5年来的苦心孤诣。当然，作为红四方面军的另一个领导人徐向前的功绩也是不能抹杀的，应该说与张国焘并驾齐驱。
今天，当红四方面军要撤离张国焘与之奋斗的川北苏区的时候，他不免有几分惆怅。特别是在一号造船工地碰见几位送桐油的老人，更牵起他两年来对川北苏维埃的种种回忆与思考，牵动起他的怀念与留念之情。四方面军与川北人民群众的血肉关系，使得他不免对这片土地眷念起来，而今又将转移到新的地方去。新的根据地又将建在什么地方？怎样去开辟？怎样去奋斗？苏维埃运动又如何发展？眼前的渡江计划能否实现？种种思绪，纷至沓来。
张国焘正在这样漫无边际、前思后想之际，陈昌浩走了进来。
陈昌浩的个头与张国焘差不多一般高，只是不及张国焘肥胖。面部轮廓分明，显得十分精干。张国焘对陈昌浩说：
“昌浩，我正准备找你呢？”
“张主席，有事？”
“白天，我与向前到造船工地看了看，战士们和工人们热情可嘉，下月渡江，看来问题不大。你要抓紧抢渡的训练，那是个关键，先遣营渡江成功了，全军才有希望。”
陈昌浩回答说：
“这方面的工作，余天云、李先念抓得紧。三十军人十八师二六三团先遣营，正在紧张地进行水上练兵，渡江演习，进一步熟练水上技术。战士们的情绪普遍都好，希望早日渡江。”
“昌浩，你对渡江后的战略方针，有何想法？”
陈昌浩不假思索地回答道：
“这个问题不是已经开过两次军委会，专门作过研究，以策应一方面军为行动目标吗？”
张国焘闪着狡黠的眼光接着说道：
“其实，策应一方面军，可以说是一句口号，也可以说是一个战略行动。”陈昌浩有些困惑：“此话怎讲？”张国焘胸有成竹地说：“接应中央，大义所在。以此动员全军，大有好处。而一方面军处在危难之时，我们也不得不设法与之配合。但一方面军人才济济，战将如云，都打了败仗，也不知他们是怎么搞的？今后，我们的前途如何？吉凶难卜呀！”“是的，我们今后还要作艰苦的奋斗，四方面军的任务相当艰巨。”张国焘不无忧虑地说：“一方面军现在何处？情况怎样？不得而知。如何策应他们，也是个未知数。”陈昌浩说：“当然，只有相机行事了。”张国焘接着说：“我们渡江之后，完全进入新区，我看，我们只能根据自己的处境，来决定我们的政策，不能再照搬苏维埃的办法了。”陈昌浩没有回答，似在思考张国焘的话。张国焘接着感慨地说：“你我泽民三人，从上海到鄂豫皖苏区，现在刚好4年，4年的光景，我好像做了一场恶梦，泽民在恶梦中殉难了，可以说革命到底了。留下我们后死的人，继续奋斗。这三、四年中，你配合我好，没有你的支持，四方面军不会有这个局面。”
“还不是你领导有方。”
“鄂豫皖我们一起奋斗的人，牺牲的牺牲，投敌的投敌，病死的病死，没有几个老同志了。像你这样在莫斯科系统学习过的人，又有理论，又有作战经验，又有领导才能的，就更少了。四方面军的担子，今后要放在你的肩上了。”
“张主席，你是党的元老，斗争经验丰富，四方面军广大指战员，都拥护你，尊你为统帅。我水平低，没有当好你的助手，你要多多的指教。”陈昌浩恭维地说着。
张国焘摇摇头：“其实，我知道四方面军的干部，不是都拥护我的，比如曾中生，就是一个反对派的头子。他现在怎么样？”“曾中生自肃反以来，一直不服，特别是撤了他的军分会主席以后，意见更大，经常和一些气味相投的人在一起，攻击我们现行的各项政策。”张国焘气愤地拍了一下桌子：“曾中生是一个十足的反革命！要把他看管起来，不准他乱说乱动，扰乱军心。”陈昌浩紧接过张国焘的话说：“今天我到这里来，就是为了曾中生的事。”“什么事！”“曾中生下午找我，说要见你，要你尽快安排一个时间。”“是不是想翻案！”张国焘愠怒地说，“现在你通知他马上来，看他说些啥？”
“好！”陈昌浩退出厢房，消失在夜色中。陈昌浩走后，张国焘背着手在屋里踱来踱去，心想如何对付曾中生的“反扑”。不一会，陈昌浩领着曾中生来到总部，走进张国焘居住的厢房。曾中生的脸庞，在桌上马灯的光照下，显得一片蜡黄，没有血色，眼神迟顿，精神萎靡。一两年工夫，过去四方面军的一位战将，竟被张国焘折磨成这般模样。张国焘强装着一副笑脸对曾中生说：“中生同志，近来身体不好吗？看你气色不佳，要多注意哩！”曾中生瞥了一眼张国焘说：“国焘同志，几时恢复我的工作？”张国焘颇为“关心”地说：“身体不好就休息嘛！等身体好了再说。”曾中生憋着一腔怒火大声说：“我不需要你这种关心，你这是软刀子割人，看起不厉害，实际上很厉害。”张国焘睁大眼睛、怒视着曾中生：“你不要血口喷人，对你姓曾的够客气的了。”“客气？还没被你整死！”张国焘提高嗓门说：“你曾中生有那么多错误，还没改正，怎么工作呀？”曾中生忿忿地问张国焘：“请问张主席，我曾中生到底有哪些错误？倒想洗耳恭听。”张国焘指着曾中生说：“你执行李立三路线；你包屁像许继慎这样的反革命分子；你还有许多反党言行。”曾中生反驳说：“李立三是党中央的负责人，他有错，我如何知道？那是全党的事，不是我曾中生的发明。至于说到许继慎，完全是你张国焘整死的，许继慎没有错。”“砰！”张国焘猛拍了一下桌子：“住嘴！你现在还在为反革命鸣冤叫屈，单凭这一点，就可以枪毙你！”“你敢！四方面军不是你张国焘一个人的天下；不是你张国焘一个人的军队，你可以随便捕人、杀人！十足的军阀主义！”屋里充满火药味，陈昌浩看见事情有点不妙，立刻从中进行劝说：“好好说嘛，不要吵好不好！”张国焘转对陈昌浩说：“昌浩，这，你是知道的，许继慎是一个十足的反革命分子，这桩反革命案，还是你发现报告的，今天姓曾的大谈什么搞错了，不知是何用意？”接着又面对曾中生说：“我看，就是由于你包庇重用了许继慎，他才这么大胆搞反革命活动。今天你曾中生想替许继慎翻案，办不到！你是不是还想听听关于许继慎的反革命罪行。如你不厌烦，我再重复一次。”
张国焘端起桌上的口盅，喝了一口茶水继续说道：
“许继慎师部的吴参谋，就是一个暗藏在我们内部的‘改组派’、国民党特务。前年肃反时，在他的公文箱中发现两封私通敌人的信件和一份通讯密码。信中的词句多是用这个密码写成的。而他的所作所为，许继慎都知道。这个反革命分子的主要任务，就是负责联络许继慎向白军投降，等待时机，准备拖出一支部队。这不是反革命行为，还是什么？这件事，还是昌浩向我报告才知道的。”
陈昌浩在一旁点点头。
曾中生气愤地对张国焘说：
“你刚才说的，完全是一件假案，现在愈来愈清楚了。”
“嗯？”张国焘怒眼圆睁。
“其实，你张国焘并不是不知道，你就会借机整人，与你意见不和的人，你一个个置于死地。”
陈昌浩在一旁极力劝阻着曾中生：
“可不要这�