一九二七年四月蔣介石對共產黨的清洗而引發的政治迫害，一直持續到一九三七年日本人侵略中國，這迫使國民黨再一次和共產黨結成脆弱的聯合。在此之前，共產黨一直自信革命即將在中國舞台上滾滾向前，相反卻發現到處都是緊迫的危機。威脅迫使一些中國共產黨員流亡，逃往像漢口那樣的內地城市，那兒國民黨左派依然歡迎他們；或者逃往香港，那兒英國法律提供了防范國民黨秘密警察的保護措施。但是許多共產黨員在上海轉入了地下，只有靠小心謹慎和偽造身份來保護自己。在這些領導人當中，包括在五卅運動中贏得卓越聲望的年輕勞工鼓動家李立三，他裝扮成一個古玩商人；還有康生在上海大學的老師鄧中夏，鄧化裝成一個理髮師。
康生也留在上海，在法租界過著共產黨員的秘密生活，由於他的機智和對這個城市的了解，加上日趨謹慎和對都市生活方式或世態的熟知，他存活了下來。他熟悉上海的胡同小巷，他了解上海豪華旅館和大百貨商店的進口和出口，他後來自誇說，沒有一個人能夠抓住他。就這樣過了六年，直到上海變得異常危險，康生才不得不撤退，前往莫斯科。
康生不僅僅熟悉這個城市的自然環境。按照一位後來移居香港的左翼作家的說法，康生的生活就像其他許多來上溥求學的富有年輕人一樣。在一○年代中期，電影院和舞廳尚屬風毛麟角，因此他們的時間大都泡在中等妓院裡，那兒的風俗允許他們一邊同鴇母們喝酒，一邊懷著免費性交的希望同妓女們調情。上海大學的男學生，同其他意識形態不強的學生並無二致，一樣尋求娛樂，儘管他們以“調查社會弊病”之名，為自己尋求快樂的行為辯護。也許如這位作家所說的，康生也不例外。
一旦捲入地下黨工作，康生便對上海夜生活的知識運用自如。當他覺得自己正處於被國民黨特務逮捕的危險中時，他時常會躲避到某個妓院，在那兒他可以消失一個小時或者一個晚上，因為他知道安全檢查機關很少會突然搜查這些付給當地警察規費的場所，所以很安全。康生還利用上海為數眾多的彈子房和澡堂，作為緊急庇護所和小心謹慎的會議場所。這些娛樂場所一直通宵開放，為黨幹部進行秘密集會提供了極好的去處。
在一九二七年四月的突發災禍之後，康生開始過一種新的生活，這種生活能提供他日常的各種需要——食物、金錢和性——並能使他在國民黨特務的眼裡顯得毫不起眼。他的第一個動作是找了一位新妻子，這樣他可以做為普通的已婚男子而被人忽略。在中國，沒有比一個獨身男子更令人懷疑的了；在中國共產黨的早期，資深男幹部至少要以已婚形像出現的壓力非常強大，因此時常有隼輕的女性黨員被指定同他們一起生活來作為掩護。誠然，康生已經有妻子和孩子，但是這場由父母安排同陳宜的婚姻，已經遠遠不適合他了。
康生最後一次看望陳宜是在一九二五年六月，當時他同他的親密夥伴李宇超和孟超一起回到諸城老家。從那以後，他簡直就不再理她了。最初，陳宜依靠康生的父親過活，在他父親死後，她則同康生的兒子張子石一起生活。她死於何時不太清楚，但是無論如何，她早已從康生的生活中消失了。康生的女兒張玉瑛，最後嫁入諸城一戶地主家庭，但後來同她丈夫離了婚，進了一家煙草工廠做工。
康生本人並不注重法律上的細節，也從未操心過要辦理正式的離婚手續。根據那個時代的標準，他的行為並非異常。
在五四運動之後，個人主義和自由選擇的現代西方思想日益普及，許多年輕的中國人，不論是共產黨員還是非共產黨員，都紛紛摒棄父母做主的婚姻。中國共產黨後來實施清教主義的法規，但是在二○年代和三○年代期間，一些年青人接受非正式的婚姻並且信奉自由戀愛的理論，即所謂的“一杯水”主義——性交就像喝杯水一樣。有些中國男人實行一夫多妻，另外有些人在適當的時候就變換配偶。
蔣介石，雖然他的生活更為拘謹保守，卻有著類似的記錄。一九二七年十二月，蔣介石瘋狂地愛上了孫中山的遺孀宋慶齡的漂亮妹妹宋美齡，遺棄了他的第一任妻子毛福梅，他最喜愛的兒子蔣經國的母親。蔣介石從未正式同毛福梅離婚，然而，他擅自考慮著同宋美齡結婚。這兩人的結合引起許多爭吵。宋夫人堅決反對這樁婚姻．美齡的父親宋耀如則表示，除非蔣介石同意皈依基督教，他才肯同意這門婚事。不僅如此，青幫頭子杜月笙也害怕這場同孫中山家庭的聯姻，會使蔣介石忘記對上海黑手黨的義務。在美麗的美齡“嫁給”蔣介石不久，她乘上一輛轎車，以為她將前往她姊姊的房子，但是相反，她被送往一座陌生的、條件舒適的別墅並且被扣留。蔣介石的內弟宋子文最後同杜月笙打交道，杜月笙解釋說他很關心美齡的安全，因而把她保護在一個安全的地方。蔣介石毫不費力就猜透了杜月笙的心思：他永遠不可忘記付給這位青幫頭子適當的權益。
一九二七年，康生同一位在上海大學遇到的年輕女子結了婚，她學習中國文學。康生的新娘原名為曹淑英，後來她把名字改為“軼歐”（壓抑歐化）——這種中國沙文主義的作法完全合康生的意。她也來自山東，是個典型的現代中國女性。曹軼歐是帶著自然的、未曾纏綁過的雙腳長大的，在省會濟南享有聲望的山東女子學校受教育。由於受到五四運動激進觀點的洗禮，她在一九二六年加入共產黨。像康生一樣，曹軼歐以前也結過婚，她拋棄第一任丈夫同康生結婚，這也是她反抗的一個像徵。
曹軼歐從未給康生生過一男半女，但是他們的關係卻比那個時代許多便利的共產主義“婚姻”包含更多的東西。個子嬌小、表情愉快，曹軼歐事實上充分準備好參與康生那些最曲折和最危險的密謀，這是政治代價。對一個過著秘密生活的男人來說，她是個極相稱的伴侶。康生最終協助她闖出自己的政治生涯。
結婚一年以後，在一九二八年年底，康生又一次改了名，捨棄了“張耘”，代之以“趙容”這個名字，這是他第一次隱瞄同張家的關係，採用了另一個同他本家不同的姓。康生通過僱傭關係，安全地成為上海中華商會會長虞洽卿的私人秘書，開始了他的新身份。虞洽卿控制著銀行業和船舶航運業，是上海最有影響和最富有的中國企業家之一。他是一個大有爭議的人物，是一九二五年反英罷工運動的主要支持者；身為一個帶有民族主義傾向的商人，能夠僱用一個來自山東、具有進步和排外傾向的年輕人，這並不出人意外。虞袷卿在上海的中國公民圈享有很高的名望，幾度被推選為市民公眾代表，同上海市議會談判協商。他堅定擁護中國利益——有些人懷疑他“同情共產黨”——然而他還是舊秩序的一部分。虞洽卿是黑幫領袖杜月笙的密友，還是蔣介石的主要財政捐助人之一。
但是虞洽卿僱用康生是因為他的書法，而不是因為他的政治傾向。就其所擁有的財富和權力來看，虞洽卿依然是個買辦，這是中國商人中的一個特殊種類，靠同西方人做生意賺取巨大的財產，但是上海之外的中國人普遍輕視與西方貿易，他們對現代商業世界及其可疑的道德標準抱著悲觀的態度。
外省的居民們不信任像虞洽卿那樣從事多種商業活動的上海人，同今天許多美國人對華爾街那些追求財富者的看法幾乎一樣。 “對買辦來說，甚至外國人的屁都是香的。”二十世紀早期作家吳趼人這樣評論道。
為了表明自己是個文化人，虞洽卿保持著十九世紀士紳的習慣，繼續穿戴傳統的中國帽和長袍馬褂。為了同他的中國式長袍馬褂的形象相一致，虞洽卿給朋友和生意合夥人寄出不計其數用毛筆書寫昀來往信函：請帖、領受書、拜帖、賀辭、弔唁信。虞洽卿需要雇用一個擅長書法的人，而康生，一個出生於歷史悠久的書香門第的孩子，正擅長使用毛筆。
到二○年代末，康生一直過著一種雙重生活。對於外界來說，他是個受僱於上海最有錢的商人之一的年輕人，與他的妻子一起生活在法租界。在上海，有數千名年輕人在為大商號工作，他的生活方式看上去並沒有什麼與眾不同。但是康生和他的妻子卻是獻身於共產主義的人，而且他還是個地位正在上升的干部，統管上海大部分的地下黨組織。
利用喬裝成上海最大的資本家的秘書之便，康生狂熱地工作，在黨內擴張他的勢力，並漸漸爬上共產黨的上層。那時並不缺乏機會。蔣介石一九二七年對共產黨的大屠殺，在中國共產黨內部點燃了長期爭鬥和派性活動的導火線，時間長達十年之久。關於四月災難，黨內互相譴責，黨的戰略被熱烈地爭論，幹部們為了黨的領導權而彼此競爭，每一個人都把失敗歸咎於他的對手，並允許重新恢復失去的地盤。一些人，比如中國共產黨總書記陳獨秀，把這次災難歸咎於斯大林的錯誤情報及自私自利的政策，他並轉向托洛茨基，組成了中國的托洛茨基派；其他一些人對黨的領導感到極度的幻滅，他們因而試圖建立類似的共產黨組織；另有一些人轉向了國民黨；還有一些人完全厭倦於激進政治中固有的爭吵和危險，轉而回歸從前的生活去了。
康生屬於絕不拋棄黨的忠誠者之列。當白色恐怖最嚴厲時期過後不久，中國共產黨指揮部從漢口遷回上海。生活在上海，康生可以從派系鬥爭中充分得益。那時，康生已經完全熟悉了當地的共產黨組織，一旦國民黨追捕，綁架、囚禁或者殺害資深共產黨員，他能夠利用一切機會取得優勢。
在這個嚴酷的勾心鬥角和理想主義破滅的時代裡，康生的地位迅速竄升。在一九二七年第三次工人起義時，也是一個市級組織者——共產黨在上海劃分的三個區的領導者之一。到六月上旬，僅兩個月以後，他就被撥擢為江蘇省委員，這是緊隨蔣介石清洗之後創建的一個新機構，以領導中國共產黨在上海和周圍地區的活動。
康生在基層工作時和第一任中國共產黨總書記陳獨秀很少接觸，陳獨秀是個四十八歲的老戰士，從一九○○年起，幾乎參加了每一次激進運動，他在一九二七年八月被免去了領導人的職位，繼任者是瞿秋白。在上海大學時，對康生具有強烈影響的瞿秋白，對革命的觀點魯莽且幼稚，以致他成為總書記統領全黨的時間很短，而且他的領導風格過於遮遮掩掩，根本不能給像康生那樣的低級幹部任何幫助。一九二八年七月舉行的中國共產黨第六次全國代表大會上，共產國際的干部對瞿秋白盲目搞的幾次武裝起義所造成的災難感到幻滅，特意撤了他的職。
參加在莫斯科郊外舉行的第六次全國代表大會的代表們，任命了蘇聯人屬意的候選人向忠發為黨韻總書記。長江上做水手的向忠發，以礦山工人的鼓動家作為他政治生涯的起點。他的無產階級出身使他被選中去莫斯科進行培訓；在那個時期，他是黨的領導集團裡少數幾個工人之一。在莫斯科的中國工人也很滿意向忠發的圓通和他那有吸引力的演講。
但是向忠發缺乏教養，說話粗鄙和蠢笨，並時而攻擊他的中國同志們。面對沉悶單調的組織和計劃工作，他更喜歡將時間消磨在土海的舞廳和妓院裡。他的不稱職為其他想要開拓發展的人留下了一個權力真空地盤——其中最主要的是李立三，一個衝動急躁的積極分子，曾是一九二五年五卅運動的一名主要領導人。
李立三於一八九九年生於湖南的一個地主家庭，他去法國學習了幾年，在那兒他同周恩來和其他正在歐洲開創中國共產主義運動的年輕激進主義者交上了朋友。一九二一年底，李立三因他的激進政治觀點被法國當局驅逐出境，回到中國後，他以勞工組織者的身份四處活動。到一九二八年在莫斯科召開全國代表大會的時候，他已經贏得了具有超凡魅力的領袖人物的名聲，有資格指導中國共產主義運動回到勝利的軌道上來。在莫斯科，他使蘇聯主人著了迷，為他自己贏得了特別的待遇以及同斯大林的三次會見。俄國人確信李立三能使中國革命恢復元氣，因此他們推選他進了政治局，並任命他為中央宣傳部部長。
儘管他在共產國際營造了良好印象，李立三本質上還是一個煽動家。他比向忠發更具世界主義傾向，而且更精練，但是他在管理和戰略決策上卻很差勁。在策劃運動的各種具體步驟時，他那熱情激昂的浪漫精神反而模糊了對周圍形勢的認識。他生活在一個想人非非的世界中，幻想革命大潮總是不斷高漲。其他共產黨員都說他是“大砲”——嘈雜喧鬧但卻射不中靶子。張國燾回憶說，許多幹部都認為李立三是個“自吹自擂者、浮誇的狂熱者和鼓吹破壞者。”
在李立三的領導下，已經被一九二七年四月的大屠殺和霍秋白短暫卻不勝任的領導嚴重損害的中國共產黨組織，退化到完全無能為力的狀態。黨的基層組織開始逐漸萎縮：他們時常得不到上級的指示，即使得到指示也視若未睹，或者無能把指令傳遞給下級基層組織。有些黨的基層組織完全失去了同剩下的地下黨組織的聯繫，因為地點和接頭安排都被丟棄或遺忘了，黨員人數急劇減少。在十分重要的上海地區，四月災難之後，共產黨重新囊括了大約三千名黨員，但是在李立三的領導下，黨員人數驟然跌落至五百人。
李立三的策略甚至也不是新的。儘管被廣泛地稱為“李立三路線”，他的革命綱領卻是仿效他那喪失信譽的前任總書記瞿秋白，片面強調城市的起義和暴動。李立三口頭上聲稱農村具有革命的潛力，但是，他雖把農民部隊納入自己的計劃；但那隻不過是對以農村起家的共產黨名義上的讓步。過於喜歡冒險，李立三在他首次執掌權力的十二個月裡，主持的是一條失敗的路線。
康生沒有參加一九二八年七月在莫斯科舉行的全國代表大會，但是李立三的執政促使康生進入黨的上層。這次全國代表大會結束幾個月以後，康生被任命為江蘇省委組織部部長，這是一個主管官職和其他人事事務的職位，僅次於共產黨最高決策層，包括政治局和中央委員會，江蘇省機關是中國共產黨最重要的組成部分之一，它監督著共產黨在上海和遠至國民黨新首都南京在內長江下游地區的活動。除此之外，由於黨的最高指揮部也以上海為基地，江蘇省委的干部們就有充分的機會引起資深黨領導人的注目。
在新的職位上，康生積極地支持李立三，並要求不斷萎縮的黨的基層組級執行他的政策。將近一九二九年年底，他幫助李立三攆走了他在江蘇省委裡的對手和批評者。康生對李立三的支持並不是無撤償的；一九一○年二月，康生被任命為黨的主要控制工具之一，中央組織部的秘書長。
康生此時主管著範圍廣泛的行政工作，包括資金管理和黨的檔案資料管理。他還擁有可以懲戒那些不服從命令或者疏於安全防衛措施的黨員的權力。一九三○年三月，康生曾指責一位在蘇聯受過訓的年輕幹部王明，因為他公然漠視黨的安全防衛程序。上海市警察局兩個月前在一個勞工鼓動者偽裝的秘密集會上逮捕了王明，並把他囚禁在老閘捕房；王明買通上海市警察局的一名印度巡捕，傳遞一封信給共產黨宣傳機構的工作人員潘問友，同中國共產黨的同志們接上了線；結果，上海市共產國際代表付出了作賄賂，王明被釋放了。王明的行為是否危及潘問友的辦事處尚不清楚——潘問友在警察突然搜查他的舊住處之前，已轉移到一個新的地方——但是高層幹部們指責王明使黨的基層組織處於危險之中。政治局決定懲戒王明，因為他“缺乏政治警惕性並嚴重違背了秘密工作的紀律。”可是王明並沒有因此被嚇阻；不久在四個月以後的一次會議上，他便公開猛烈抨擊李立三的政策；政治局最後決定暫停他的黨員資格，留黨察看六個月。在這兩次事件中，康生都是負責懲戒王明的執鞭者。
康生在上海派系鬥爭的世界裡如魚得水，他漸漸進入環繞在李立三周圍經過挑選的高層幹部圈。但是那種機會遍地的環境——就像王明所受到的教訓那樣——也帶來了囚禁、拷抒和死亡的危險。警察最終在一九一○年逮住了康生，在一次共產黨會議上逮捕了他和他的一些同事。
然而，康生的運氣並沒有完全離開他。同他一起被拘留的年輕共產黨員中有一個叫丁基實的，他的叔叔丁維汾，是出身名門的國民黨元老。由於巧合，丁維汾來自日照，一個位於山東海岸線上的村莊，離康生的家鄉大台莊不超過五十英里。
在康生被捕之時，丁維汾擔任南京中央黨校校長，負責向國民黨幹部灌輸反共的國家主義教義。丁維汾在學校的助手之一是陳立夫，當時的國民黨秘密警察首腦；由於陳立夫的幫助，丁維汾使丁基實和他的朋友們得以釋放。丁基實匆忙出國，前往德國學習，然而康生仍然回到了共產黨的地下組織繼續工作。
儘管有丁維汾的說情，康生依然不得不同他的看守們做一些交易。按照曾在一九三三年被國民黨秘密警察逮捕並叛變的共產黨員的說法，康生在一九一○年“被逮捕並背叛了黨，”當時康生“出賣了他的同志們。”
康生擔心那些他背叛共產主義的報導——不論真假與否——會洩漏出去，他因而盡力對他的被捕保密。事實上，從那以後他一直不承認有這事，一九六八年來自台灣的一篇報導中聲稱“康生曾在上海被捕，旋即又被釋放，”康生斥之為“胡說和謠言”而不予理睬。 “我從來沒有被捕過，”康生解釋並補充說，“如果我被逮捕的話，我早就沒命了。”關於他被捕的話本身，就會使他在中國共產黨的圈子內處於被懷疑的立場。
國民黨喜歡對共產黨使用的策略之一是在逮捕他們以後，吸收他們做國民黨特務——一種受害者認為遠比死七要好的結局。大多數背叛者都直接加入國民黨，但是一些人被釋放，擔任雙重間諜，重新回到共產黨的隊伍。因此，被國民黨拘留的共產黨員們一旦從監禁中被釋放，就經常受到過去同伴的懷疑。
任何報導康生被捕的原始資料都沒有透露他背叛並同國民黨合作。甚至他被捕的確切地點也依然是個謎。現藏於美國國家檔案館（United States National Archives）的上海市警察局特科的捲宗檔案中，並沒有康生在公共租界被捕的記錄。他可能在法租界被拘留，那時候他大部分時間都住在那兒，或者是在國民黨控制的大上海。上海市警察局特科的記錄揭示了共產黨的嫌疑犯經常因缺乏證據而被釋放。有一次，上海市警察局在一個共產黨集會上逮捕了十個人，但卻沒有進一步深究；這些嫌疑犯中有一個是告密者，另一個是位階較小的共產黨幹部，他說了一大堆使人糊塗的謊言，其餘的八個人表示什麼也不知道。根據一份上海市警察局的報告，警察方面在法庭上非常不願意使用提供情報的人，這就使人聯想到如果康生定期地提供情報，他們絕不會採取任何正式的行動來使他為難。除此之外，從上海淪陷中倖存下來的上海市警察局的紀錄並不完全；在一九四八年國民黨統治的最後匆促時日里，在把這些檔案卷宗匆忙裝運上美國海軍船隻時，一部分卷宗掉進了海裡。另有一部分被共產黨的地下工作者轉運走了。
上海市警察局的紀錄揭示了為數眾多的中國人被捕，是因為散發“共產主義的宣傳品”，但是被捕的大多數人是“苦力、木匠、鐵路蕎路工、黃銅匠、漆工、纜繩裝配工和失業者。”有時候，共產黨的高層幹部也有被捕的（通常是根據國民黨秘密警察提供的情報抓獲的），但是投有一份倖存的檔案暗示康生是他們當中的一員。如同上海市警察局的捲宗所顯示的，特科意識到有一個組織嚴密的共產黨核心機構存在著，但是大部分活動依然處於秘密狀態中。警察局偶爾能抓到一些普通的積極分子，但是很少能滲透到那個把街頭工人同黨的上層決策者連接起來各自獨立的通道的迷津中。如果康生實際上是在公共租界被捕的話，很可能只被當作是一樁小事，而非值得在警察總部的登記冊上永久記錄的大事。
康生的被捕本身並不能證明他變節，或者被迫同逮捕他的人進行長時期的合作。國民黨監獄以混亂和腐敗而臭名昭著，許多黨員用賄賂手段而出獄，或者因為警察不能發現共產黨員的真實身份而被釋放。警察當局最多可能查明康生為具有激進傾向的大富商虞洽卿工作，並且同國民黨領導人丁維汾有聯繫，但是可以想像，當康生可能被列為幾個共產黨嫌疑犯時，警察卻沒有他同中國共產黨牽連的紀錄。
一九三○年的整個夏天，李立三一直得意洋洋，但卻沒能維持住他的權力。李立三在一個想像的世界裡編造政策，導致了一連串災難性的失敗。康生和其他人支持李立三，但是他的領導權力也在逐漸壯大，主要是一批經驗豐富、注重實效、以上海為基礎的干部。反李集團的領導人是何孟雄，一個勞工組織家，像康生一樣，也在江蘇省委工作。何孟雄來自毛澤東的故鄉、湖南省的湘潭，一九二二年參加共產黨，當時他幫忙組織了一次罷工，那是最早由共產黨領導的罷工行動之一。
李立三的胃險主義還激起了周恩來的反對。一九三○年夏天，當時在上海工作的周恩來同李立三決裂，前往莫斯科進行了一次特別的旅行，去呼籲共產國際核准更換黨的領導。共產國際既由於李立三的多次失敗，也由於他頻繁聲明蘇聯是中國利益的輔助者而警鈴大作，開始注意周恩來帶來韻信息。
李立三終於在幾個月之後垮台，當時他命令在武漢和長沙舉行起義。由於相信中國正瀕於革命熱情的高漲時期，李立三計劃在湖北和湖南那樣的中部省份進行起義。他命令共產黨農村軍隊進攻長沙和武漢，當時城市無產階級也起來乘機控制這兩個城市。共產黨軍隊在彭德懷的領導下於一九三年七月二十七日攻占了長沙，並佔領達一星期左右。但是國民黨軍隊很快就擊潰了他們，李立三滿懷希望地預測為中國革命主引擎的城市起義，結果是一場白日夢。
長沙潰敗以後，不同派別之間的緊張變成了公開的鬥爭。
九月下旬，已經成為調解人和解決麻煩問題能手的周恩來，獲得共產國際的同意，召開了一次中國共產黨中央委員會會議，以解決領導問題。委員會是在公共租界的上的一幢別墅裡舉行的，儘管為了安全原因曾放風說這次會議將在江西省的避暑勝地廬山舉行。連續三天，大約二十名共產黨領導入圍繞著領導問題爭論不體，有時爭吵聲越來越響，以至於周恩來不得不警告他們把聲音壓低些。
麥達赫司脫路會議結束了李立三的領導，但卻沒有挑選出繼任者。黨內上層的分裂擴大成兩個主要派別。一個派別支持啊孟雄和江蘇老戰士；另外一邊是一群年輕人，一群在莫斯科培訓過、稍後以“二十八個布爾什維克”或者“回國學生”而聞名的干部，支持他們的領導人王明。那時已經同李立三疏遠的康生，則保持中立。儘管與何孟雄和他的追隨者們關係親密，但是他靜觀誰能形成最有影響的勢力，並相應地作出決定。
這一年的早些時候，王明曾與康生衝突過兩次。原來叫陳紹禹的王明，是個野心勃勃的知識分子，二十四歲，是安徽省一個富商的兒子。他於一九二五年前往莫斯科，進中山大學學習，這是蘇聯爲培訓中國革命者而創建的學校。在那兒他引起了主管中國事務的蘇聯官員的注目。中山大學的許多中國學生團結起來，在托洛茨基同斯大林的鬥爭中支持托洛茨基，蘇聯當局指派王明暗中監視這些學生，指定他代理清洗那些中國共產黨內部同情托洛茨基的人。王明希望從他的恩主那兒贏得更大的好感，於是，清洗迅速發展成一種殘酷無情的懲罰，結果，他的深謀遠慮是正確的：王明的能力和他對克里姆林官革命觀點的忠誠給人留下極深的印象，共產國際的斯大林主義者們斷定他是使中國共產主義化的理想人選。
王明是個熟練運用馬克思主義術語的演講能手。他既是一個政治活動家又是一個知識分子，按照列寧的傳統，他寫了許多關於共產主義革命理論和實踐的文章。他在一九三○年十一月發表了《兩條路線鬥爭》，一篇關於他祖國的共產主義運動的分析，這篇分析在莫斯科發表時冠名為《兩條路線鬥爭：為中共更加布爾什維克化而鬥爭》，因而給自己做為領導人的形象增添了不少光彩。當他同孟慶樹——個與他在莫斯科同窗的年輕中國共產黨員——結婚時，他的革命憑證又增強了。強健結實、快活輕鬆的年輕人王明和苗條嫻靜、顴骨輪廓漂亮的女性盂慶樹，結成了一對引人注目的夫妻。
當孟慶樹於一九三○年在上海的一次工廠工人集會上被捕時，悲傷過度的王明把所有其他的事情都撇在一邊，直到他安排好她重獲自由。王明最終說服當地的中國共產黨委員會籌款兩千到三千中國元（大致相當於一千五百美元），作為保證她自由的賄賂，但她已在上海的龍華監獄度過了六個月。
許多共產黨員發現他們從監獄被釋放以後，配偶都跟了別人，但是孟慶樹依然投入王明張開的雙臂。他們的戀情是革命中真正的愛情故事之一。
當王明於一九二九年從蘇聯回國時，他受自己命運中自滿思想所驅使，拒絕了給他的第一項任命，在滬東南洋菸草廠當黨的書記這樣一個相對較低的職位。王明被再度委派去宣傳機構工作，但是他仍然與當地的共產黨幹部發生衝突：後者對所有年輕的、莫斯科培訓的知識分子的野心勃勃和虛榮做作感到不滿。王明的一位同時代人把他和他的小圈子描繪成是“沒有頭腦和驕傲自大的年輕官僚，從未為中國革命做過什麼事情，只知道對他們的共產國際上級諂媚奉迎，從而獲得對中山大學裡黨組織的控制。”
王明和其餘二十八個布爾什維克在共產黨的普通黨員中很少有同盟者，但是他們勝過對手的，在於他們具有一種至關重要的優勢：共產國際的支持。一九三○年十月，蘇聯庇護者的重要性顯著增加了，當時共產國際遠東局首腦帕維爾·米夫來到（Pavel Mif）中國。米夫於一八九九年出生於一個俄國猶太人家庭，在一九一七年革命之後參加了共產主義青年運動。他同中國事務發生第一次重要接觸是在一九二五年，當時他被任命為著名革命家卡爾·拉狄克（Karl Padek）手下中山大學的副校長。一九二七年米夫接替拉狄克當了大學校長。就在那一年，他對中國進行了一次簡短的訪問，寫了幾篇關於中國革命見解深刻的論文，帶著直接觀察者的充分信心回到莫斯科。
米夫成為莫斯科指導中國政策最有影響的人物之一。身為斯大林順從而殘忍的追隨者，他對莫斯科的中國學生團體實施政治懲罰，專門打擊那幫持異議的前托洛茨基分子。在王明身上，米夫看到了斯大林主義所要求的外國革命者的所有品質，最主要是完全尊重蘇聯所起的卓越作用。當米夫在一九一○年末回到中國的時候，他決定任命王明擔任中國共產黨的領導人。
米夫的第一步是命令李立三回到莫斯科，在那兒李立三做了自我批評並且承認自己是“半個托洛茨基分子”。 （白天，李立三在列寧學院學習，晚上，他不斷以各種方式來補償政治上的失敗。）到一九三一年一月上旬，米夫壓制了地方乾部對王明的反對意見，覺得有足夠的把握召集一次中央委員會會議。這次重大而激烈的會議於一月十三日在公共租界一個隱蔽處召開。中央委員會在樓上開會，樓下幾個共產黨秘密機構的婦女在玩牌和聽留聲機。共產黨槍手裝扮成廚師和僕人，站崗放哨，以保護他仃的領導人免受傷害。
以總書記的地位，無能而粗俗的長江水手向忠發主持了這次會議。可是，按照一位與會者徐炳根的說法，米夫安排了一些帶著手槍的人，以確保他的想法得以實施。米夫和王明擬定了一份領導職位的候選人名單；儘管何盂雄和那批以上海為基礎的老戰士試圖通過另一份不受支配的候選人名單，但是米夫的名單還是被與會者全體接受了。向忠發仍然是總書記，但是政治局在王明和他的朋友的掌控中。
就在那次會議開始之前，康生就把握了新的政治動向，並打算將他的命運拴系在王明身上。其意圖的個中道理似乎引出了哲學，對世界的描繪是它無時無刻不處於流動變化之中，成功的關鍵在於形勢尚在醞釀孕育時就採取行動。康生想要同王明和解的主要障礙，是前一年他們之間敵對沖突所引起的苦澀，當時康生兩次代表李立三懲罰了王明。實際上，康生強加給王明的留黨查看期還未滿，王明就被任命為政治委員——這暗示出形勢（包括康生的觀念和忠誠）的變化是如此之快。
面對王明超越他的現實，康生打主意去巴結迎合他以前的受害者。他設法使王明相信，他們早先的問題只是他遵循李立三的命令所造成的。在同王明達成一致的過程中，康生也不是沒有盟友，二十八個布爾什維克中的許多人，包括楊尚昆、博古和王稼祥，都曾經是康生在上海大學時的同學。王明充分意識到，他需要在上海懂黨務和人事的強硬幹部的幫助，而康生是顯而易見的選擇。王明從自己的經歷中明白康生在處理黨內敵人時能夠極有效力，到一月十三日申央委員會集合的時候，他們之間的關係已經有了根本性的改變，而且王明把康生的名字寫進了那份中央委員的名單裡。更重要的是，他將康生從秘書長提升為中央組織部長。康生從及時改變立場中大大得益。
米夫利用其共產國際的高級領導的身份，安排王明和他那留蘇派的小集團控制中國共產黨，但是米夫的高壓作風激起了普遍的不滿。他勉強隱藏的那種中國共產黨應該接受白皮膚革命家指令的傲慢，導致一些愛國代表們公然退場，嚴重的對抗來自以何孟雄為首的老戰士們，他們覺得自己勇敢抵制李立三的冒險主義，理應分享一部分官職。
但是米夫的教條主義不允許任何妥協，結果造成以上海為基地的黨分裂的兩個敵對陣營。何孟雄和他的同盟者譴責王明，同中央委員會決裂，打算建立一個獨立的、與之競爭的組織。該派決定減少米夫的影響，他們在普通黨員中散發聲明書，抨擊共產國際的干預，攻擊米夫和王明。
一九三一年一月十七日，何孟雄集團的幾名成員，包括林育南和李求實，在位於公共租界最繁忙地區、漢口路六百六十六號一座中級的西式風格建築的東方旅社里開會，討論反對王明和二十八個布爾什維克的事宜。可是，由於公然向王明挑戰，他們正在進入一個致人死地的世界，在那兒任何事情都被許可，不論它多麼骯髒或虛偽。第二天，上海市警察局特科官員和國民黨秘密警察的聯合行動組，按照一份“秘密報告”
採取行動，把東方旅社置於監視之下。一個警官裝扮成茶房，進入何盂雄和他的同事們隱藏的三十一號房間，判定房間的居住者看上去像足共產黨人，那警官命令其他警察衝進房間，抓走了八個人。在將囚犯解往老閘捕房以後，國民黨密探和上海市警察局的警官們留下來等候，又抓走了三個試圖進入三十一號房間的共產黨員。那天下午晚些時候，他們突然搜查了天津路上的中山旅社，逮捕了何盂雄和其他七名嫌疑分子。突擊搜查持續了一整夜，到早晨，總共有三十六名共產黨人遭到圍捕。
在公共租界，例行的法律程序一過，這些囚犯就被移交給國民黨安全機關，並被解送到地處上海南郊的龍華淞滬警備司令部監獄。後來在一九三一年二月十日晚上，監獄當局通知何孟雄和其他二十三名被監禁者，他們將被遞解去南京。二十一名男子和三名婦女戴了手銬和腳鐐，排隊走出了監獄的院子。當他們一走到監獄能聽聞的範圍之外，護衛隊便把一切偽裝都拉下了，等候在附近一座橋邊的法官宣布了死刑判決。就在行刑隊準備將他們處死之時，囚犯們突然唱起了《國際歌》（The Intemationale）。他們被埋葬時，屍體依然戴著鐐銬。
儘管國民黨試圖保守這次大屠殺的秘密，但是消息很快就洩漏了，當地和外國的新聞界作出憤怒的反應。在那些被處死者當中，有五名是頗有抱負的年輕左翼作家和詩人：李偉森，一位隨筆作者和《上海紅旗》的編輯；胡也頻，一位小說家：柔石，一位短篇小說作家；殷夫，一位年紀較輕的作者；還有馮鏗，一位女作家。五個人的所有作品都被美國新聞記者埃德加·斯諾介紹到了西方，死去的作家們很快成為不朽的“五烈士”。進步作家們譴責這次謀殺完全不顧這五位死者同共產黨的關係，並聲稱這是對作家和藝術家的全面鎮壓。這種國際反響嚴生了對王明有利的結果：集中在五位烈士身上的反對蔣介石白色恐怖的有利宣傳，掩蓋了這次事件背後的政治現實。
當時國民黨因為殺害五位烈士而受到新聞報導的譴責和攻擊，但是實際上，策劃這整場逮捕的人是……康生！身為王明新近獲得的盟友，康生決意要證明他在派係政治的黑暗世界裡的能力。這次政治事件幾十年來一直被謠傳所遮蓋，但是最近揭露出來的證據，顯示是康生把何孟雄集團在哪兒開會的消息通報給了國民黨秘密警察。一九六七年，一名在一九四九年被共產黨捕獲的前國民黨秘密機構的特務吳賓舒（Wu Bing shu，音譯），向他的捕捉者揭露說，在何孟雄集團被捕前，國民黨警察就已經掌握了他們每一個人的詳細背景資料——包括每個人入黨的日期，入黨後經歷概要，以及一些連他們自己都已遺忘但卻被認真調查過的細節。結果，吳賓舒說，那次審訊只不過是訊問一下每個犯人，以核實事先獲得的事實而已。吳賓舒相信這個情報來自共產黨內部，但是他不知道是誰。作為組織部部長和黨員檔案卷宗的管理人，康生很容易能掌握這些置人於死地的資料。
還有比吳賓舒的證詞更不利於康生的有力證據。另外一個國民黨情報官員在一九四九年以後落人共產黨之手，他叫王雲程，對康生出賣何孟雄和五位烈士的事作出了明證。王雲程原是一名在莫斯科培訓過的共產黨員（他是二十八個布爾什維克之一，後來是共產主義青年團書記）。一九三三年他被捕以後，參加了國民黨情報機關。被捕後三個星期，王雲程寫丁一份“投降聲明”，日期是一九三三年二月二十四日。 “在派系鬥爭中，”王雲程聲稱，“例如就何孟雄和他的二十幾個同事來說，就是全部死於趙容（康生當時的名字）和其他領導人的紅色恐怖之下。”
王雲程身為王明最受信賴的助手之一，才有可能說出關於“紅色恐怖”的話。在五烈士事件發生的當時，王雲程是一位幕後工作人員，屬於王明在中央委員會裡的小集團。王明總是利用他來欺侮和威脅他的對手。王雲程第一次遇見王明是在莫斯科，在中山大學時曾是他的保鏢之一。作為這位年輕的前蘇維埃領導人的密友，王雲程對王明及其盟友們為反對黨內對手所使用的背信棄義的陰謀詭計，有著直接了解。
他也認識康生，並向上海市警察局描繪過這個人。
在討好王明的同時，康生大肆宣揚他搞秘密工作的能力，還巧妙地將他的背叛行為瞞過別人。何孟雄被處死幾天以後，康生遇到剛從莫斯科回到上海的張國燾。張國燾發現康生為何孟雄之死很“悲傷”，並“擔心”會危及其他黨員。早年曾是何孟雄的朋友的張國燾，如果從康生的舉止行動中察覺什麼古怪的話，他肯定會表示懷疑的。
何孟雄和他的同盟者被消滅之後，對王明和新的中國共產黨政權的抵制仍在繼續。王明開始清除他的對手，同時，他設法重組黨的機構以便增加其效率，從而鞏固他對黨的控制。
作為組織部部長和王明的主要打手之一，康生越來越同二十八個布爾什維克和他們的蘇聯庇護人站在一起，他幫助他們壓制持異議的干部並重建黨的組織，使黨越來越接近於蘇聯模式。
由於共產國際的支持以及康生和其他人給予無法估量的幫助，王明得以逐步擴展其影響，在他從莫斯科回國後的兩年裡，他成為整個中國共產主義運動的領袖。他還在黨的基層黨員中開始培養個人崇拜的傾向。年輕的共產黨員們在談論他們的領導人時讚美他，形容他是“英明且高瞻遠矚的，”並且引用他的“經典”著作《兩條路線鬥爭》裡的原典。一些久經戰鬥鍛練的老戰士，像共產黨軍事委員會首腦周恩來，和當時只是中央委員會委員及一個農村根據地的政委毛澤東，都要聽從王明的指示。
王明有一個引入註目的弱點，使得他不適於領導中國共產黨：好暴露和逮捕的害怕使他一直處於驚恐之中。在蘇聯看來，他可能是個理想的干部，但是與康生相比，王明明顯缺乏在上海這樣充滿危險的城市裡做一個地下共產黨員所不可少的沉著和應變能力。一九三○年一月他已經僥倖脫險過一次，當時他被短暫拘留，這可把他嚇壞了。同國民黨一起，上海市警察局和其他安全機構的人馬都緊緊盯著共產黨，王明覺得上海的環境越來越難以忍受。負責組織工作的康生盡他最大努力，保護王明和他的妻子孟慶樹。在危機期間假託養病是歷史悠久的中國傳統，他們夫妻倆躲藏在上海郊區的一所療養院裡；這是康生所做的安排。同上海出身的勞工組織家、王明的隨從參謀一起，康生為他們夫婦倆租用了一整層樓面，使他們能夠避開院裡其他療養者。即使如此，王明還是遭受著難以控制的恐懼感的折磨。一九三一年七月下旬，在他當上總書記僅一個月以後，他就離開了崗位，啟程前往莫斯科，在那兒他擔任駐共產國際中國代表團團長這樣一個更安全甚至更有威信（在那個肘候）的職務。
王明撤退至蘇聯並不意味著在中國共產黨內部他的影響已然結束，也沒有使康生失去繼續為他工作的信心，許多在蘇聯培訓過的年輕共產黨員，經由王明的拔升而佔據黨的高位，這些人使他的影響在很大範圍內遍及共產黨的各項事務。一九三一年九月上旬，王明最信任和最有才幹的副手之一博古，被任命為總書記；王明的派係依然握有黨的領導權。除此之外，王明在莫斯科的地位——在那兒他是共產國際執行委員會委員——使他的指示具備了那個職位所應有的最高權威，在理論上，他對這場共產主義運動行使著至高無上的領導。
康生依舊參與王明的事業，擁護其基本政策和方針。他幫助創建了組織續密、紀律嚴明的布爾什維克政治機構的模式，受到蘇聯培訓過的共產黨員的支持。他時刻保持警惕，運用他的權力，對任何向政治局指示和命令挑戰的干部進行威脅恐嚇。
王明在上海期間，康生對他的忠實效勞掩飾了康生對政治的真實態度，他很少注意政策方針的內在精神，卻更注重能增加他自己權力的策略行動。到一○年代初期，康生的主要政治技巧是識出當時恰好在中國共產主義運動中成為明日之星的領導人，然後把他的未來拴系在那個人的身上。他的機會主義現在看來似乎極為明顯，但是康生行動時很有手腕和技巧，以維護他獻身革命的名聲。他對任何特定的領導人或政策的支持不管多麼虛假，他總是設法使同志們相信他至高無上的目的是共產主義事業。這些都是在中國廣為人知的伎倆，與阿諛拍馬和無恥廷臣所用的策略有異曲同工之妙，在官方歷史和像那樣的古典小說裡都有所描繪，畏達兩千多年。在上海話裡還有個成語，叫。康生如此變化多端的忠誠引出了一個公認的樣板。實際上，上海成語提到一種有充分理由要避開貓的動物：那就是老鼠。
註釋：
註釋：