我离开广州只有四个多月，再回广州一看，情形已发生了很大的变化。广州政府内部左派和右派的斗争非常激烈。右派看到左派力量日益发展，非常害怕，竟于1925年8月20日，暗杀了廖仲恺先生。这是孙中山先生逝世以来，右派势力对左派的—次最严重、最卑鄙的挑衅。当时，共产党和国民党左派依靠省港罢工工人的力量，立即进行反击，驱逐了国民政府内部公开的右派头子胡汉民、许崇智等人，并解除了粵军魏邦平、梁鸿楷部的武装。10月1日广州革命军举行第二次东征，盘踞东江的陈炯明虽然得到英帝国主义和奉系军阀的援助，但在革命军队的英勇进攻下，仍是不堪一击，被打得落花流水。1月中，广州政府收复了惠州、潮州、汕头等重要城市，陈炯明叛军完全被肃清。广东革命根据地大大地巩固起来了。
但是革命运动的发展总是迂回曲折的。国民党内一些旧的右派失败了，跟着就又有新的右派产生。这时，戴季陶之流的所谓“理论家”正在大肆贩卖其“纯正的三民主义”的反动理论；邹鲁、谢持、林森、张继等组成的西山会议派，也打着国民党的招牌，在北京召开了非法的所谓“西山会议”；广州黄埔军校中的一部分反动军官和学生在蒋介石的卵翼下也搞起“孙文主义学会”的反动组织。身为国民政府主席的汪精卫，虽然还没有暴露他反革命的身份，但在左派力量日益增长的形势下，也感到十分恐慌，办一切事倩都缩手缩脚。国民党的第二次代表大会原定在1925年11月召开，但是由于右派的阻挠，会议一直拖延下来。
我们四川代表团在到达上海之前，本来以为一定要迟到了。到上海以后才知道会议已经延期到1926年1月1日。我们赶到广州，才知道大会的一切准备工作都还没有开始，各地代表也到的很少。除了我们四川的代表外，只有湖北的代表来了董必武、钱介磐（亦石）同志等五人；华侨代表来了彭泽民、许苏魂等三十余人；其它地方的代表有的还没有报到，有的地方甚至连代表都还没有选出来。更可怪的是连国民政府所在地的广东省，也还没有选出代表来。大家议论纷纷，说大会恐怕开不成了。我看了这种情形很着急，因为当时邹鲁、谢持等正在北京酝酿要在上海召开非法的代表会议来和我们争夺领导权。这次大会是我们组织力量反击右派猖狂进攻的一次重要会议。假使大会开不成，那就会大大助长西山会议派的气焰，对革命将带来十分严重的恶果。因此我立即去找汪精卫。汪精卫愁眉苦脸地说大会恐怕开不成了！”我说现在邹鲁等人这样猖狂，他们不但排斥共产党，也排斥广东的国民党，不跟他们斗一斗，怎末成？否则，许多同志流血牺牲换来的这块根据地就要垮台，只怕你这国民政府主席的位子也坐不住了！”汪精卫说：“我也没有办法。”我说：“怎末没有办法，快些筹备就有办法了。”汪精卫只在那里唉声叹气，我又催促他赶快召开国民党中央会议以筹备第二次代表大会。不几天，中央会议召开了。会议上，大家推举我做大会的秘书长，负责筹备工作。
国民党第二次代表大会的一切筹备工作都是依靠我党进行的。那时毛泽东同志和周恩来、聂荣臻、萧楚女等同志都在广东工作，陈延年同志是中共广东区委书记。和我经常往来的还有董必武、林伯渠、恽代英、张太雷等同志。大会的筹备工作，就是由我和这些同志商量，分头进行的。依靠我党党员大家的努力，筹备工作进展得非常迅速。
1926年1月1日，大会果然如期召开了。会址设在广东省议会的大厅中，布置得朴素庄严。会场门口设置了一个很大的地球模型，表示全世界革命运动的团结。会议开得很生动、很热烈。到会代表256人，其中约有五分之三是共产党员。共产党员和国民党左派占着压倒的优势，形势非常有利。那时广州还有几十万省港罢工的工人，天天游行集会，还组织了工人纠察队。由我党举办的各种各样的训练班如雨后春笋，遍设于广州市内。尤其是毛泽东同志所主办的全国农民运动讲习所，集中了二十几省的各族革命青年，成为指导和推动全国农民运动的中心。群众的革命情绪空前高涨，到处都可以听到国际歌的雄壮歌声。
群众初步发动起来了，左派势力日益增长了，国民党的右派甚至中间派都感到恐慌。汪精卫的老婆陈璧君对汪说：“你看这次大会上，能办事的，会说话的，一考查，都是共产党员。”从她的言语中，可以看出他们对共产党的嫉恨。大会幵了几天，刚好蒋介石从潮汕军次回广州，出席了大会。蒋介石最喜欢人家吹捧，陈肇英迎合蒋的心理，在开会时，向大会提议：“蒋总指挥劳苦功高，大家应向他起立致敬。”结果起立者寥寥无几，闹得蒋介石十分尴尬。会后代表们都骂陈谄媚无耻，陈也无地自容，几乎不敢露面。从这件事可以看出大会上正气完全压倒了邪气。
形势对我们十分有利，可是机会主义者陈独秀偏偏顾虑重重，恐怕共产党力量太大，吓跑了国民党右派，于是便亲自出马来限制一下。他一直在上海，没有参加广州的大会，但却非常殷勤地一定要请右派分子戴季陶、孙科等去广州开会，好象少了这几个人，大会就开不成似的。后来他又给我们写了好几封长信，大谈其所谓形势与策略。他对形势的估计很悲观。当时，郭松龄军倒戈失败，奉系军阀气焰复张，并与吴佩孚勾结在一起，冯玉祥的国民军正处于四面受敌情况中。陈独秀片面地认为这就是革命低潮到来了，因此指示我们在统一战线方面要执行让步的策略。他对大会出了许多坏主意，主张尽可能地把各方面的“人物”都包括进国民党中央委员会中去。据说这样做就可以团结国民党。他提名了一些人，其中很多是顽固不化的国民党右派分子。当时我们感到这种做法不对头，也有几个同志坚决反对这种无原则的让步，因此大会并没有完全按照陈独秀的意图进行。大会通过了对右派集团的坚决谴责，开除了西山会议派邹鲁、谢持等人的党籍，并给林森等以书面警告。这些做法都违反了陈独秀的意志，都是做得很对的。但最后在选举方面却受了陈独秀的影响，在选出的六十个中央执行委员和候补委员中，共产党员只占十四人。（包括毛泽东、李大钊、林伯渠、恽代英、董必武、邓颖超和我等人。）而中央监察委员中，右派的势力更大。这是一个极其错误的让步。在这次大会上，本来我们有条件使进步力量在国民党的领导机构中取得优势，但是我们却自动地放弃了。事实证明，不进行斗争，幻想以片面的退让换取“团结”，其结果只会助长右派的气焰，而使“团结”终于破灭。国民党第二沭代表大会的基本方面虽然是正确的，但在选举问题上片面让步的错误，也造成了严重的恶果。