依靠王明，康生才得以使自己身處中國共產黨的菁英名流之中。但是他晉升為秘密機構的領導人——一個已變成與康生的名字同義的角色——與其說是因為他在利用王明的庇護時所玩弄的技巧，不如說是因為共產黨在反抗國民黨的戰爭中隨著失敗而來的危險。可以這麼說，康生的擢升歸功於每一位資深的黨的領導人，而不是幸運；促使他從地下黨的組織者轉變為特務和暗殺者的是時運。
在一九二七年四月清洗共產黨的決定性勝利之後，國民黨漸漸加緊了對中國大部分城市的控制。在上海、南京、北京、天津、漢口，廣州和許多較小的城市裡，國民黨控制了政府機構，並動用警察、軍閥和特務機構來同共產黨作戰。一場消耗戰接踵而來，國民黨通常佔有優勢。即使在人種混雜的上海，政治上、外交上和法律上的各種漏洞對各種秘密組織都很有利，但中國共產黨長期倖存的可能性看來似乎很微小。
但是共產黨並不是輕易就被擊垮的對象；被不共戴天的敵人所包圍，他們學會瞭如何使自己藏身於上海的喧囂混亂之中。上海市警察局特科檔案卷宗描繪了康生和他的同志們棲居的黑暗世界的戲劇性畫面。中國共產黨漸漸形成了一個無窮盡的基層組織網絡，它們被劃分成非常獨立酌部分，以確保任何個人的被捕，都不會向警察提供更多的情報。共產黨發明了一種複雜的控制規則，其中多數是模仿蘇聯人的：幹部在街上不准談論政治；開會人數不得超過五人，時間不得超過三小時；會議地點不准一星期使用三次以上；任何時候在任何黨的“機關”，到場人數不得超過七個人；如果一位同志被捕了，同他有聯繫的每一個人都應該立即轉移（這個規定說明了為什麼警察偶爾突然搜查備有家具的公寓，而裡面的房客卻消失了）。共產黨還掌握了顯影墨水的技術，將秘密情報寫在那些看來好像是每天來往於朋友或情人間的信函裡。
當共產黨變得更難以捉摸時，國民黨建立了一個專門的安全防衛或者組織，獨立運作於警察和軍隊之外的調查科。調查科先是作為國民黨組織部內一個小小的基層組織，但是它很快就擴大成一個蔓延的、遍布全國的間諜特務體系。它的首任長官是蔣介石的秘書、著名的陳氏兄弟中的弟弟陳立夫。陳氏兄弟領導的“cc系”，是國民黨中一個很有勢力的集團。像許多早年奮發有為的國民黨領導人一樣，陳立夫曾留學美國，獲得匹茲堡大學採礦工程學碩士學位，然後在賓夕法尼亞的煤礦工作。陳立夫在美國的經歷使他確信科學技術是把握中國未來的關鍵，但是當他於一九二五年回到中國以後，在他的哥哥的訓諭下捲入了政治。
到一九二九年，陳立夫大部分時間花在其他工作上，因此他就把秘密機構的管理權交給了他的表親徐恩曾，儘管陳立夫名義上還是調查科的負責人。在西方以U·T·徐聞名的徐恩曾，畢業於上海交通大學電機工程系，然後同陳立夫一起在匹茲堡大學求學，曾為西屋（Westinghouse）電氣公司工作，在一九二五年返回中國之前並參加了卡內基技術研究所（Carnegie Institute of Technology）的研究工作。徐恩曾平時說話溫和，臉上一直掛著笑，實際上卻是個狡猾、無情、貪婪和好色之徒。
由於受到調查科的威脅，共產黨決定建立自己的秘密機構。作為黨軍事委員會首腦的周恩來，也負責各種安全事務。一九二七年十一月，他利用在四月十二日大屠殺以後創立的一支秘密小分隊和倖存的工人糾察隊員，建立了。最初，特科傾其全力於兩個基本職責——設置安全的會議場所和處置共產黨的叛徒——但是它很快發展成一個綜合性的安全情報組織。一年之內，它有了四個科，每個科都有自己特定的任務。
特科中最普通的任務是總務科的職責，它管理財務、後勤和高層共產黨領導人的生活起居。它發展同照相館、古玩店、家具店和其他商業性企業的關係，用來隱藏武器，傳遞秘密情報並為特科的行動提供掩護。總務科設法租下房屋，使別人無法搜尋到共產黨；基層組織的干部們有時會在這些安全的房子裡生活和工作。小組領導人洪揚生，在法租界租了一間公寓，周恩來和特科成員可以在那兒集合碰頭，因此避免了知道彼此家庭地址的必要。洪揚生後來在租了一間公寓，在那兒黨的領尋人和共產國際的代表可以假裝成當地的商人和外國商人進行會面。
總務科還是黨同分散在全上海的知識分子和專業階層中同情共產黨的社會知名人士發生聯繫的中介環節。當黨的成員被捕時，總務科就會接近思想進步的律師尋求幫助，著名的法律教授潘震亞，不管共產黨什麼時候來請求，他都自願提供免費服務。另外一位律師費國禧，也幫助共產黨解決難題，但通常只收取微少的費用。總務科還約請醫生陳家康，請他醫治受傷的共產黨員。
為了採取較具實力的行動，特科僱用了一批熟練的槍手。
以“紅隊”之名而著稱，為上海全黨的高級幹部提供警衛，並負責各類會議的安全；他們還緊盯因反共特別有效而著稱的調查科特務，作為打擊目標。但是“紅隊”最重要的職責是實施懲罰，處置那些對應盡義務發生動搖或者背叛投向國民黨一邊的共產黨員——這個任務為“紅隊”掙得了“打狗隊”的名稱。
“紅隊”實施行動時用盡各種各樣的花招和偽裝。槍手們有時會裝扮成乞丐和沿街叫賣的小商販。女追捕隊員們有時會化裝成家庭女傭；參加更為精心策劃的行動的槍手會裝扮成拍電影的攝影師和技術員。但是“紅隊”手法的戲劇性絕不能掩蓋他們任務的生死攸關或行動的干脆利落。
從一九二七年年中開始，共產黨的衛士們實施了一系列的攻擊和保衛。上海市警察局檔案卷宗中記載，僅僅在公共租界，從一九二七年到一九三一年之間，“紅隊”消滅了至少四十個對手或叛徒——一個最低限度的數字，因為“紅隊”的許多行動從未被發現過。他們經常被悄悄地遺忘掉，所以他們的命運依然無人知曉。除此之外，許多符動是在法租界和中國人管轄的大上海進行的，因此上海市警察局是沒有紀錄的。
警察對行動的紀錄揭示了康生和他的同伴們令人困惑的忠誠和不斷換人馬的聯結。被上海市警察局詳細記錄的四十名“紅隊”的犧牲者中，至少有十三人是共產黨員，他們或者是投靠警察成為提供情報者，或者是投向其他反共組織。叛徒們通常被打死，但是“紅隊”也遭受過慘重的損失；負責暗殺的“紅隊”隊員中有二十六人被上海市警察局逮捕。對於一個秘密組織來說，共產黨的傷亡人數是很高的，在一個以告密和私人交易作為生存手段的社會裡從事活動，這是必然的結果。
周恩來平時一直很忙，以致不會十分關注黨的秘密工作，因此他逐漸把特科和“紅隊”的日常管理工作委託給一位性格浮誇、名叫顧順章的“紅隊”隊員。顧順章個子矮胖，精於槍法和傳統的中國棍術，一九二五年在五卅運動的示威遊行和罷工中引起了共產黨領導人的注意。後來他去蘇聯待了一年，接受安全工作的訓練——調查、審訊、射擊、爆破器材的使用和徒手格鬥。回到中國以後，他做過共產國際代表米哈依爾·鮑羅廷短時期的保鑣，然後開始同周思來密切合作。顧順章在一九二七年的起義中指揮過一些共產黨的武裝運動，在四月大屠殺中逃離了死亡，據說，在國民黨軍隊進攻被圍困在商務印書館大樓裡的武裝工人之前，下久，他是同周恩來一起逃脫的人之一。一九二八年，顧順章繼續當選為中央委員會委員。
作為出生於上海貧民窟的孩子，顧順章渴望在政治上和社會上得到重視。身為社月笙聲名狼藉的青幫中一員，顧順章很快就能接觸到來自上海各種警察隊的情報，因為所有警察部隊都被青幫的會員所滲透。他還時常出入夜總會，吸鴉片，並贏得了魔術家的名聲，經常以化廣奇的名字在著名的大世界娛樂中心表演。大世界是一幢高高的、像結婚蛋糕一樣的建築，座落在，裡面提供各種形式的娛樂遊戲，從跳舞和賣淫到射靶遊戲、和輪盤賭。五卅運動期間同顧順章一起工作過的張國燾指出，“他的外表和習性有點像上海的花花公子。”盛岳，一位認識顧順章的前共產黨員，也說他的“私生活和品行揮霍浪費，”但認為周恩來似乎對顧順章品格方面的問題太過輕忽了。
當上海警察當局越來越精於偵查“布爾什維克”之道時，暗中監視黨的敵人的工作，對共產黨的生存也變得更緊要了。
一九二八年四月，周恩來建立了情報科，這是一個從屬於特科的小組，任務是滲透到敵方的安全機構裡臥底。情報科的第一任科長是陳賡，一位二十五歲的湖南人，曾同顧順章一起在蘇聯學習過暗殺技術。回到上海以後，他從事安全保衛工作；他總是警覺性高度加強，睡覺時在枕頭底下放著一把槍。同在上海的許多黨工作人員一樣，陳賡同康生也很熟悉，有時候就住在他家裡。
情報科剛建立，上海市警察局特科就給注重滲透到敵人秘密警察的共產黨以一擊。一九二八年四月下旬，上海市警察局突然搜查了中國共產黨的一個地下辦事處，並逮捕了一九二七年起義領導人之一羅亦農。連黨幹部都認為從未顯露過的安全地點，競被警察當局發現，這使陳賡很吃驚，弛立即著手調查這是怎麼回事；通過顧順章的青幫關係同警察局聯繫，陳賡發現一個講德語的漂亮中國女子曾接近過老閘捕房的特科官員，提出以出賣三百五十名共產黨員的名字和住址為條件，交換五萬元和一本去外國的護照。為了表示她的真誠，她洩漏了那個羅亦農被捕的辦事處地點。
陳賡查明告密者是何基華。何基華在二○年代中期去了德國，後來在莫斯科待了一段時期以後，她在上海黨的總部工作。她很快對共產主義產生了幻滅感，密謀逃跑，去過一種新的生活。發現了她的告密者身份後，陳賡、顧順章和幾名“紅隊”成員在拂曉時分突襲了何基華的家，抓住了正在床上睡覺的她和她的新丈夫賀家興。他們找到了那份還沒有遞交給警察當局的三百五十個姓名和住址的名單，然後向這對夫婦開了槍，其時一名隊員在街上放起了成串的鞭炮，以淹沒槍聲。
何基華中了槍但沒死（共產黨通常攜帶發射七點六五毫米子彈的毛瑟槍——槍的口徑對於執行死刑來說是太小了），但是沒有了那份名單，市警察局不再對她感興趣。傷好以後，她匿名消失在四川省，因為她是四川人。
在陳賡的領導下，情報組在反共勢力中培植起一張特務網。陳賡行動中的核心人物是個廣東人，叫鮑君甫，他在國民黨調查科上海辦事處工作。鮑君甫在日本受過教育，在五四運動期間回到中國，一頭戴進了上海那熱鬧的社會生活中。
他開始熟悉這個社會的橫斷面，從日本記者到上海市警察局的官員，再成了上海大學的學生。實際上鮑君甫從未參加過中國共產黨，但是他同情革命事業，透過一位共產黨朋友，仡被安排同陳賡會面，陳賡同意鮑君甫為特科工作。意識到鮑君甫作為一個在國民黨內部的特務所具有的價值，陳賡不惜工本地幫助他。他供給鮑君甫一輛轎車，並配給他一名叫連德生的中國共產黨幹部，既做他的警衛，又做與情報組聯繫的聯絡員。
鮑君甫進入調查科是由廣東同鄉楊劍虹作的擔保。在楊劍虹因為一樁貪污受賄的醜聞而自殺以後，鮑君甫被任命為調查科駐上海的“特派員”。由於提供了大量關於國民黨安全機構的情報，因而他對於共產黨來說成了非常寶貴的人物。
鮑君甫還逐漸接近上海市警察局特科的官員，，這位官員視鮑君甫為上海共產主義專家，無償地同他分享情報。鮑君甫更突然接近上海市警察局的中國僱員，包括另一個廣東同爹潭紹良，他是市警察局特科處理有關共產黨事宜小組的“辦事員”。一到晚上，鮑君甫和譚紹良就一起去著名的餐廳“一品香”吃飯、抽鴉片。陶醉於鮑君甫的魅力和鴉片之中的譚紹良，公然談論著市警察局特科的行動情況。
鮑君甫除了提供敵方計劃的情報來源之外，陳賡還利用他來消滅被國民黨逮捕以後叛變投敵的共產黨員。陳賡會提供給鮑君甫一些意欲顯示那些背叛者是共產黨“間諜”的證據；然後他就把證據傳遞給國民黨警察當局，當局往往會中計謀，處死叛變的共產黨員。
陳賡的另一個特務宋再生，賄賂他從前的家庭教師（此人也教過新任命的淞滬警備區司令熊式輝），在淞滬警備區司令部謀得了一個“秘密政治調查員”的職務。作為警備區司令部裡的一名官員，宋再生期望每月能從青幫手裡收到一箱左右用作賄賂的鴉片；他分出贓韌的百分之三十給他的老家庭教師，買得他一聲熱情的推薦。熊式輝本人僱用了他，宋再生成為名聞上海的一名傑出的國民黨安全官員。他同法租界里中國警察中的關鍵人物範廣珍特別親近，這個人經常把突然搜查共產黨的消息告訴宋再生。心懷不滿的左翼活動分子偶爾也會接近宋再生，企圖為了獎賞而出賣李立三那樣的共產黨員。靠陳賡和顧順章的幫助，宋再生保證那些叛徒中無人能夠生還。
儘管共產黨有許多精心安插的特務，在這場秘密戰爭的整個過程中，最初還是調查科贏得了大部分的勝利。由於對共產黨基層組織的滲透，對叛徒的招募以及嚴刑拷打或用賄賂從囚犯中榨取情報，調查科接連摧毀了許多共產黨組織。
一九二八年一月，共產黨剛從一九二七年四月的大屠殺中恢復過來不久，國民黨特務突然搜查了上海二十個共產黨的藏身之處；據上海市警察局報告，在公共租界有一百二十五名共產黨員被逮捕，在法租界和大上海有一百八十六名黨員被捕。
第二年，又捕獲二百九十五名共產黨員，其中包括一名重要的農民領導人彭湃。一九一○年，另外五百七十二名黨員在上海被逮捕，在這個國家的其他地方，被捕的人數則更多。王明贏得黨的控制權那一年，即一九三一年，對於上海共產黨來說是特別糟糕的一年。被捕的人數雖只有三百四十五人，但他們當中包括了許多高級官員——其中包括保爾·魯伊格（Paul Ruegg）和葛楚德·魯伊格（Gertrude Ruegg），一對出生於瑞典的夫婦，他們是共產國際駐中國的代表。
所有打擊中最糟的危機是在一九三一年四月二十五日，當時顧順章在漢口被凋查科特務抓獲，儘管他有秘密工作的所有技巧和各種各樣的偽裝。顧順章骨子裡是個機會主義者，他在被捕後的幾個小時裡，就同意和國民黨合作。他的叛變使上海的共產黨面臨自一九二七年以來最危險的境地。在顧順章被捕後那些驚慌失措的日子裡，康生被擢升為中國共產黨秘密機構的首腦。
顧順章的叛變使共產主義運動大大削弱。他的被捕令許多重要的中國共產黨領導人的安全蒙受危險，其中有周恩來，王明、陳雲和康生。一場可能改變中國歷史進程的災難，結果卻被兩名受陳賡領導、滲透在國民黨安全機構的情報組特工的勇氣和冷靜所阻止。
兩名特工中處於更具戰略性地位的是錢壯飛，是個近乎完美的共產黨間諜：高個子，衣冠楚楚，臉上帶著調皮的微笑，有著廣泛的興趣（繪畫、書法、表演、電影攝製），很容易給人一種無瑕的資產者印象。陳賡了解徐恩曾從浙江無線電和電報局挑選了許多人做他的情報工作人員，就安排錢壯飛參加了一個無線電訓練組。錢壯飛的各種特別條件——更不必說他的原籍是徐恩曾的家鄉、浙江省的湖州——給了徐恩曾很好的印象，徐恩曾於一九二八年把他吸收進正在迅速發展的調查科。除此之外，錢壯飛成了他的機要秘書和私人助手。
另一位秘密共產黨員是李克農，他也幫助黨免受顧順章叛變而造成的危險。由於受到五四運動激進思想的激勵，李克農於一九二六年在蕪湖參加了共產黨，在那兒他幫忙建立了一個黨的訓練中心，即民生中學，並開始熟識這個城市中親共產黨的作家和詩人團體。一九二八年春天轉到上海後，李克農在文化戰線上工作，促使當地的小說家、新聞記者和雜誌編輯向激進思想轉化。
同錢壯飛一樣，李克農也是個理想的間諜人才。穿著西裝，繫著領帶，戴著厚厚的圓眼鏡，他很容易被誤認為是上海的新聞記者。他是個有著摹擬天才的詼諧演說家，他的迷人個性很能贏得信任。一九二九年，由於錢壯飛的幫忙，李克農開始在上海無線電控制局工作，這是另一個徐恩曾從中為秘密工作挑選新成員的單位。像錢壯飛所希望的那樣，李克農被邀加入國民黨的情報機構。李克農在上海暗中監視著國民黨的動靜，同時還擔任錢壯飛（在南京基地他不敢同共產黨聯繫）和陳賡之間的聯絡人。作為中國共產黨情報組首腦的陳賡，負責協調錢壯飛和李克農的工作並傳遞他們情報，先給顧順章，然後再交給周恩來。
顧順章叛變的第一份報告，是在一九三一年四月二十五日星期六晚上用電報拍給南京調查科總部的。在電報到達前幾分鐘，徐恩曾正好離身去酒吧和夜總會消磨夜晚。使用的、電碼曾被錢壯飛秘密複製過，他譯解出電報並派他年輕的女婿劉杞夫連夜向李克農報警。火車太慢，劉杞夫直到星期天晚上才抵達上海。他在共產黨特工常去的東方旅社找到了李克農，李克農火速安排聯繫特科，轉遞來自南京的消息。
聽到顧順章已經叛變，周恩來馬上佈置了一系列緊急對策。在陳雲和那時已晉升為組織部長的康生的幫助下，周恩來向所有重要的黨組織單位——黨的總部、江蘇省委以及共產國際上海辦事處——發出命令：當晚轉移到新的基地去。
中國共產黨的統治集團採取最快速的行動，諸如卷宗檔案、設備、衣物和各種私人用品都被火速捆紮起來，轉移到不同的地點。
星期一，四月二十七日，當上海的共產黨正在拚命試圖尋找新的藏身之處時，顧順章在警察的護送下坐船抵達南京。顧順章一到國民黨首都，蔣介石就親自接見他。顧頌章宣誓拋棄共產主義，開始揭露他所了解關於共產黨各種運作方式的每一細節，並擬訂了一個捕捉上海的共產黨領導人的計劃。徐恩曾命令一隊特務在他的兩個部下張沖和顧建中的指揮下，當晚趕往上海，準備同法國和英國警察採取聯合行動。星期二早上，一系列突擊搜查開始了。但是他們太晚了——共產黨領導人早已逃離。
然而，顧順章的叛變畢竟是一次嚴重的打擊。許多幹部被逮捕，不但在上海，而且還在南京、北京、天津、杭州、漢口和其他城市。顧順章的情報導致向忠發被捕，向於一九二八年在莫斯科第六次全國代表大會上，由於蘇聯贊助，被任命為中國共產黨總書記。六月二十一日，他同他的情婦，一個酒吧姑娘楊秀貞一起，在法租界上一家他用來作掩護的珠寶店裡被捕。向忠發當即向調查科的審問者做了詳細招供，並表示願為國民黨工作，但是在被捕兩天后還是被處決了。按照當時的謠傳，向忠發被處死是因為他的捕捉者們認為他太愚蠢，難以成為一個有用的背叛者，但是真正的原因是安全警察在槍斃他之後，蔣介石的緩刑令電報才剛剛到達，這顯示了安全警察不同尋常的效率。顧順章還告發了許多早先被逮捕的共產黨員，包括康生在上海大學的兩名老師惲代英和邛中夏，兩人都被處決了。
緊隨顧順章叛變而來的逮捕和處決，並不是他所造成的唯一問題。他還寫了一本名叫《特務工作的理論與實踐》的書，這本書第一次向國民黨提供了有關中國共產黨秘密機構如何運作的全部內幕。他提供給國民黨的情報幾乎毀掉了特科：陳賡如此精明建立起來的間諜網被破壞殆盡；共產黨最重要的人物之一鮑君甫被速捕；宋再生跑了；其他那些較次要的情報內線也失去了聯絡。
在上海黨組織頻於毀滅邊緣的危機時刻，康生朝著成為共產黨安全情報飢構統治人物的方向，邁出了最初一步。周恩來仍然領導著軍事委員會，他為了盡力保護黨免遭進一步破壞，他重建了秘密機構。他組成了一個值得信賴的資深幹部班子，叫“特別工作委員會”，來領導黨的情報和安全保衛工作，並解決那些由於頤順章事件所暴露出存在於特科的問題。
周恩來還命令陳賡和已經暴露的其他共產黨特工離開上海，用新的人馬來接替他們。
周恩來親自入座新的委員會，還任命了其他四名委員：潘漢年，一名二十五歲的干部，他身為有影響力的特工：在上海的文學界工作，交了許多當地的作家朋友；鄺惠安，廣東人，是一名“紅隊”成員，中央委員會候補委員；陳雲；還有康生。康生缺乏顧順章和陳賡那種專業化的蘇聯訓練，但是由於他在上海這個危險環境裡從事了多年的秘密工作，他是很適合這個任務的。
在組織新秘密機構的幾個月裡，周恩來不斷面臨著可能被捕的危險。調查科對顧順章提供的許多線索窮追不捨，越來越向他逼近。出於對他的安全的考慮，周恩來於一九三一年八月動身前往位於汪西山區的共產黨農村根據地。然而，在他離開之前，周恩來替康生完成了晉升為中國安全機構特權人物的第一步，他讓他領導特別工作委員會，並安排他主管整個共產黨的安全諜報機構——不但在上海，而且在整個國民黨統治的中國。沒有人會輕視這樣一個行使權力的機會．康生佔據這個關鍵位置達兩年之久，直到他被重新委派去莫斯科。
周恩來撤換了特科全體人員，並建立了新的運作程序，但是特科的結構依然未經觸動。當康生接管這個秘密機構的時候，情報科、紅隊和總務科仍然履行著同樣的職責。但是新建立了一個聯絡科，專門安排秘密機構內部，並負責上海的黨總部與江西農村根據地之間的通訊這個高度機密的任務。到康生主管安全工作時，聯絡科的許多工作都是通過秘密電台進行的。
在建立特別工作委員會的過程中，周恩來把一個全新的管理職能小組放在適當的位置。鄺惠安，康生在特別工作委員會的一位同事，接替顧順章擔任紅隊隊長，紅隊也被稱為第三科，那時有三、四十名隊員，被分成九個小組。鄺惠安與康生緊密合作，儘管紅隊作為一個科，依然獨立於這個秘密機構的其他部門。潘漢年，委員會的另一名成員，繼陳賡之後擔任情報科（或稱第二科）科長，開始重建潛伏於國民黨內部的間諜網。
與周恩來遙控特科的作法不一樣，康生本人直接參與秘密機構的工作。他擔任聯絡科（或稱第四科）的領導，接替前任科長李強，李強也是那些被周恩來從上海送走的人之一。
這個位置使康生幾乎可以控制共產黨安全機構的每一個領域，隨著負責秘密機構四個科之間的遁訊聯繫，他對大部分黨的秘密活動有了直接的認識。由於掌管無線電通訊聯繫，康生能夠監聽黨的幾個根據地之間傳遞的各種電文訊息。他還監管與上海的共產國際代表的聯繫；儘管共產國際在上海有它自己的無線電報務員，但是它的代理人仍然必須倚仗康生的第四科來同江西的共產黨總部聯絡。
擔任新角色之後，康生進入了享有非常權力和特權的秘密的共產黨菁英階層。特別工作委員會及其四個科獨立於正式的黨組織之外：很少干部知道這個秘密組織的存在，更不用說它的成員是誰了。特別工作委員會的特工們除了進行他們的秘密工作之外，很少有什麼任務責任，按照中國共產黨的標準，他們都是被高薪僱用的。確實，康生對黨的資金有最先支配權。一筆筆可觀的費用支付給公共租界和法租界的警察，而當時其他活動所需要的錢卻往往很難獲得。
康生對黨的銀行帳戶的控制，在上海的共產黨中引起了激烈的爭論。隨著秘密機構變得日益龐大，費用日益增加，批評者開始暗地調查其貪婪和腐敗。有些人甚至暗示，警察當局對共產黨沒有構成巨大的威脅，只是每一次抓幾個共產黨人而已，因為那些腐敗的警察們會把消息出賣給康生的人，如此就可以敲榨中國共產黨更多油水。秘密機構特工們奢侈的生活，更給這場爭論增添了不少口舌。他們中許多人過著富有誘惑力的、令人目炫的生活。康生在紅隊中兩個亡命徒特工丁默和李士群，徑常穿著價格昂貴的西服套裝，整日泡在餐館、賭場和妓院裡，同歹徒和吧女交際來往。
奢侈的生活助長了秘密機構的特殊化，但更顯示它所具有的那種超越其他共產黨員、極其醒目的權力。比如康生開始對他的同事和他們的家庭行使生殺予奪的權力。康生看上去相當善良，像一個近視眼的書呆子，透過他厚厚的眼鏡片凝視著文件和人；但是歷史顯示，對於使人承受痛苦的行動，他毫無內疚。
共產黨從顧順章的背叛所造成的災難中倖存下來，但是黨在上海的處境依然很危險。國民黨調查科逮捕了許多黨的官員，但其中只有少數是很重要的。共產國際代表奧托·布勞恩（Otto Braun）把黨的損失歸罪於康生，宣稱“由康生建立的安全部門……證明是一個徹底的失敗-——以為數眾多的領導官員的被捕和無線電台的沒收而告終，中斷了中央委員會同外部世界的聯繫接觸。”事實上，在康生成為秘密機構首腦之前，黨已經蒙受了損失；顧順章的叛變是致命的一擊；用徐恩曾的話來說，顧順章“是共產黨地下活動的一部活的百科全書，”他提供了通往共產黨秘密世界的鑰匙。
一九三二年四月，共產黨的處境變得更加危險，當時國民黨建立了一個新的安全機構。蔣介石於四月一日建立了復興社特務處，一個右翼組織，在英語世界里通常以藍衣社或藍袍社聞名，是模仿希特勒的褐衫黨和墨索里尼的黑衫黨（多少有點不確切）。特務處的領導人員戴笠，一位黃埔軍校的畢業生，他完成了種種危險和棘手的任務，從而證明了他對蔣介石的效忠。
戴笠的藍衣社穩步擴張他們的權力，最終獲得了大量國民黨警察和軍隊的指揮權。藍衣社犄務們監視著軍人集團的陰謀（那些軍閥和半獨立的將軍威脅著蔣介石的權力），暗中監視批評國民黨的人，比如孀居的孫中山夫人，並進行著一場反共產黨的秘密戰爭。戴笠手下人馬無情地追捕他們的目標，任意綁架和暗殺。由於不受法律的約束，他們總是以拷打折磨他們的受害者。他們從男犯人身上榨取情報的共同方法之一，是將他的手綁在背後，用一根繩索拴住他的兩個大拇指，然後慢慢地將他吊離地面，每一次抵抗就猛扯一下繩索。
如果未能使犯人開口，那就把他綁在牆上，擠壓兩肋以壓迫他的內臟器官，肉體外上輕微傷害就會產生極度的痛苦；或者強行把水灌進犯人的鼻子和喉嚨，引起一種溺死感。女犯人則用針刺她們的乳頭，用棍棒捅她們的陰道，把竹籤插入她們的指甲裡。
戴笠的藍衣社將近一年的行動，對共產黨沒有產生重大的衝擊，但是調查科和上海的警察力量以顯著的成功繼續著他們的戰役。面對國民黨日益增長的威脅，康生的秘密機構開始了猛烈的反擊。用自動手槍武裝起來的紅隊，發動了一場威脅調查科偵探、國民黨特務和叛徒的反攻戰役。一九三二年四月二十二日，兩名裝扮成外國人的男性中國人開槍殺死了警察長王斌，—個來自上海的國民黨陸軍總部的偵探，上一年曾逮捕了共產黨總書記向忠發。一九三二年十一月二十五日，六名由鄺惠安率領的紅隊隊員在一名國民黨叛變者的協助下，突然襲擊了調查科在閘北的一個秘密辦事處，殺死了一名特務，擊傷了另外三名。一九三三年四月十一日，五名紅隊隊員在滬南區的一家咖俳館裡對他們在街上發現的四名調查科特務開了火，一名國民黨特務死亡，兩名嚴重受傷；紅隊的隊員們迅即消失在人群中。接下來一個月，一名調查科特務去法庭作證時遭劉紅隊的伏擊；他在送往醫院途中死在救護車上。
儘管共產黨在反擊，但是黨的安全仍在繼續惡化，於是領導者們在一九三二年年底決定將總部遷出上海。設備和卷宗檔案用汽船沿著一條秘密通道從上海運往汕頭，然後用小船運往漢水上游，進入福建省的中心，離共產黨在江西的根據地大約一百八十英里的地方。大多數資深的共產黨員都撤退到江西，但是康生留在上海。他有兩個主要任務：監督共產黨在中國這個最重要的城市新成立的上海局的活動；領導特別工作委員會同國民黨進行秘密爭鬥。
置身於這場生死攸關的鬥爭之中，康生仍然能找出時間，為秘密分發的宣傳報紙和雜誌——諸如《紅旗雜誌》、《鬥爭》和《工人運動指南》寫出大量的文章。正如他的文章所揭示的，即使在那時，他已經明白了秘密工作在中國共產黨總體結構中所處的地位，並且意識到不管這股地下的力量多麼有用，任何想要進入黨的最高層的人還必須同時是宣傳家和決策者。
自從顧順章叛變，共產黨總部改組以來，康生還擔任勞工部的領導。那份工作缺乏來自暗殺者手槍的緊迫感和直接的權力，但是在一個推崇無產階級的政黨裡，它帶來了巨大的威望。由於發表關於勞工問題的文章，康生參與了共產黨關於黨的政策、工會事務以及外交政策的研討，後者或許是最具意義的。在一九三一年十二月至一九三三年七月間，他寫了大約二十篇文章．這個數字表明他是多麼重視文字戰。
出於安全的緣故，康生總是用這個或者那個筆名寫作。
有時他使用諸如“駱駝”的筆名，但他最喜愛的筆名有一種預示的味兒：謝康是他於一九三三年抵達莫斯科時選定“康生”這個名字前的一個步驟。儘管都是康生的化名，那些同他有關係的共產黨幹部，特別是王明和他的副手們，都知道作者就是康生——這是他的文字成就所帶來的政治報償的保證。
康生的文章表面上涉及的是勞工問題，但是他往往把注意力轉向共產黨政策方針的中心問題。擁護“四中全會的成就”——贊成帕維爾·米夫選擇王明擔任政治局最高領導人的代語之一——是他文章的一個固定特徵。康生的文章給予王明無條件的支持，從而也贊同了蘇聯的政策，那時共產國際還面臨中國共產主義運動中某些因素日益增長的抵制。
當時的主要問題是日本對中國的侵略，以及對此中國共產黨應該採取什麼態度。一九三一年六月，在中國東北一個軍事禁區內，中國警察逮捕了一名日本陸軍軍官中村上尉和其他三名醜本人。四個人全部都是平民打扮，因此中國當局把他們視為間諜，於七月一日處決了。這正是日本軍國主義者所期待的事情；一九三一年九月十八日，日本軍隊攻占了奉天（那時亦稱瀋陽），並佔領了涵蓋中國東北三省的滿洲。大多數憤怒的中國人聲言將會盡所能以各種方式來反抗日本人。同樣的民族情緒也被許多共產黨人表達出來，他們批評蔣介石對日本人的謹慎反應。然而，在王明的領導下，盲方路線—.康生所積極宣傳的——策劃反日姿態，首先要為蘇聯． 、的利益服務。
康生的文章敘述道，“奉天事變”與其說是對中國的進攻，不如說是“帝國主義正在對中國進行瓜分，並開始攻擊蘇聯。”
這種親蘇觀點使康生遠離民族主義的中國共產黨，共產黨要使勞工運動與抗日聯合起來。康生堅持黨的正確方針是武裝勞工群眾，並“動員工人們起來支持蘇維埃”；力持民族主義的黨員們正好相反，他們想要在共產黨（紅色）和國民黨（黃色）之間結成聯盟，來支撐國家的抗日事業。在這一點上，康生忠心耿耿地重複斯大林統治的共產國際的主張，堅定不移地捍衛他的庇護人王明唯莫斯科馬首是瞻的方針。
其時，對土海共產黨的威脅，特別是對康生的威脅，正在逐漸增大。調查科拉緊了他們圍捕共產黨的大網，開始逮捕康生身邊的干部。一九三三年二月一日，王明的前保鏢，後來揭露康生背叛共產主義事業的王雲程，在公共租界的一幢房子裡被國民黨特務拘捕，被迫洩漏了許多共產黨領導人的詳情。其中之一就是康生，提到他時是用上海話發音的趙容這個名字——康生這個名字是後來才為人所知的。警察局卷宗檔案概括了王雲程對康生的評論：“江蘇人，四十歲左右年紀，身高五英尺二英寸。身材修長，眼睛深陷，戴眼鏡，以愛抽金鼠牌香煙且抽得多而聞名。的成員。”
王雲程的描述對識別康生並無多大幫助。把他的家鄉省份說成江蘇也是不正確的，而且他的身高少報了六英寸，但是它突出了康生的重要性，特別在警察的眼裡，他佃總是留意著任何來自共產黨安全諜報機構的人員。
一個月以後，當他們捕獲了情報組前組長陳賡時，上海市警察局朝接近康生邁向一大步。陳賡在戰鬥中同同志失去聯繫，之後回到了上海。叛徒陳連生在公共租界的北京戲院裡認出了他；陳賡在準備動身前往四川的一個共產黨根據地之前，於三月二十四日晚上被捕。陳賡在被捕前曾在康生家裡住過好幾天，因而陳賡的被捕對康生是個十分明顯的信號。
一旦陳賡落到調查科的手裡，沒有任何保證這不會涉及到康生的安全。陳賡後來說他沒有洩漏任何一個共產黨同伴的名字，儘管他被鞭打且受到電刑的折磨。
紅隊在康生的領導下繼續取得了不少勝利，即使越來越多的共產黨領導人被抓。六月十四日，四名共產黨行刺者開槍打死了調查科上海局的首腦史濟美——還曾取名為馬紹武、呂克勤和周廣亞——在他從公共租界的中心區的一輛轎車下來的時候。史濟美過去是紅隊的特工，後來叛變投靠了國民黨，並贏得了上海調查科特工中最能幹者的名聲。他策劃了許多方案，包括綁架當時有著廣泛讀者群的左翼女作家丁玲。史濟美率領了一隊便衣偵探，其中許多人都是從上海黑社會中招募來的。按照一名中國記者的說法，史濟美的人馬用“大吃大喝、賭博、同妓女睡覺和注射六○六”來消磨他們的空餘時間。
合乎他的放蕩生活方式，史濟美是在前往一座雅緻漂亮的妓院（被《上海晚郵信使報》委婉地描述為“一所以'甜心'著稱的歌舞廳”）舉辦的餐會的路上，被共產黨特工開槍擊倒的。
史濟美的被殺引發了全市的大搜捕。最初，史濟美的情婦被懷疑是使他遭伏擊的原因，但是目標很快集中剄餐會的另一位客人——康生的下屬丁默，紅隊的成員，一直以《每日社會新聞》的記者和編輯的身份活動。丁默被拘留了。但國民黨內的朋友們使他安全被釋，充分顯示出中國政治錯綜複雜的關係，但是丁默的被捕發出了另一個信號，那就是國民黨正在漸漸逼近上海的共產黨秘密機構。
即使如此，特科還是繼續進行對國民黨的爭鬥。紅隊隊員們暗殺了史濟美的繼任者，當時他剛抵上海不久，正在春花旅社的三樓等候電梯。然而眼前的形勢正轉向對共產黨不利的一面，而且國民黨使共產黨遭受到的損失增加了。在殺死史濟美之後不久，康生的同伴盛岳就斷定康生很清楚自己的安全問題，這個判斷在一九三三年七月十九日的《上海晚郵信使報》上刊登的一則報導中被證實。按照這則報導，“在上海流傳，有一份據稱源自於秘密藍衣社或中國法西斯組織的秘密文件，內有進行大規模暗殺的命令……”這份死亡名單上的第三個名字——簽署日期是六月十五日，是史濟美被暗殺的第二天——是另一種上海話發音的康生的化名趙容。戴笠的藍衣社已經意識到康生在上海共產主義運動中的重要性。離開上海的時候到了。
康生沒有撤退到江西農村的共產黨根據地，而是去莫斯科同王明在一起。在曹軼歐的陪伴下，康生沿著那條在他之前許多黨員走過的路線出發了：從上海坐輪船，到日本人佔領下位於中國東北梅岸線的大連港，然後坐火車穿過滿洲到達邊境小城滿洲里，並從那兒坐俄國人的火車穿過西伯利亞到莫斯科。
康生委託王明的支持者和莫斯科培訓過的共產黨人李竹聲主管上海的黨務。李竹聲倖存了大絢一年時間，一九三四年六月十四日，國民黨特務聯合公共租界和法租界的警察力量一起行動，突然搜查了四十多個共產黨的秘密藏身處，並且逮捕了五十四個資深領導人，包括李竹聲，他很快就叛變投靠了國民黨。七部無線電發報機也被警察當局查封沒收，這一著有效地中止了少數留在上海的共產黨同莫斯科的共產國際和江西的中國共產黨根據地之間非常有限的聯繫。
對上海黨機構的最後一擊在三個月之後降臨。一九三四年九月二十七日，國民黨在一場針對紅隊的全力以赴的戰役中，成功地逮捕了其領導人、康生以前的親信鄺惠安，以及他的三十五個同事。這一系列逮捕行動象徵著國民黨鎮壓在上海的共產黨的最後勝利。意味深長的是，後來才由康生主管達兩年之久的紅隊，是被主要敵人國民黨調查科擊潰的共產黨組織中的最後一個。
康生在上海指揮黨韻秘密工作，和他與紅隊共度的歲月，把他引進了神秘而權勢炙火的菁英圈。這個時期還為康生未來在中國共產黨隊伍中的進一步晉升掃清了道路；他直接面對黨的活動中最地下的一面，並使他習慣於背信忘義、暴力和殘忍。康生在上海的經歷對於他下一個目的地莫斯科來說是理想的準備，在那兒，對他這樣氣質和才能的人來說，是個不同尋常的機會。
註釋：
註釋：