1925年秋，黃子文考入上海中華職業學校。
子文到上海後，被那裡的反帝、反封建、反軍閥的工人運動所感染，轟轟烈烈的革命氣氛所鼓舞，使他政治視野大為開闊。
一天，子文去上海大學求拜當年父親的上司於右任先生，恰好遇見了在三原就相識的蒲克敏、張資平等同學。蒲克敏是上半年到上海的，專程給團中央遞送三原團組織報告。當時在上海大學任教的團中央負責人惲代英介紹他留校學習，並介紹他加入了中國共產黨。因於先生1922年10月創辦上海大學時，曾求助於中國共產黨人，黨組織遂先後選派中共黨員李達、翟秋白、惲代英、鄧中夏、蔡和森等到校擔任領導和教學工作，從而使該校成為第一次國共合作時期在國內很有影響的一所大學，黨的力量較強。薄克敏在學校組織了“陝西同鄉會”，一面磋商學業，一面探討革命理論。
子文與張資平、蒲克敏幾經交往之後，參加了“同鄉會”。從此，他們以“同鄉會”的名義經常聚會，一塊研討國內外時局，中國之前途等問題，秘密傳播蘇聯十月革命的經驗。一次，子文被蒲克敏講解的《共產黨宣言》吸引住了。 《共產黨宣言》關於階級和階級鬥爭的原理；無產階級產生、發展及壯大的論證；無產階級必須用暴力推翻資產階級，建立自己的政治統治和思想統治的闡述，使黃子文深切地感受到中國的希望在於喚起勞苦大眾，走蘇聯十月革命的道路。他隨之下定了“終身為共產主義拼搏”的決心。
此後，子文在學校除刻苦攻讀專業課本外，經常購買一些進步書刊，利用節假日和同學一起學習、討論。他還深入到街巷和擺攤設點的群眾交談，和閒居的老人“聊天”，體察了解民情，增長社會知識。張資平對子文的這一切十分讚賞，特別加以培養，並於1926年介紹他加入了中國共產黨。入黨後，子文的革命意志就更加堅定了。
1927年3月，黨組織吸取了1926年10月和1927年2月兩次組織工人起義因準備工作不足而失敗的教訓，在周恩來等同志領導下，廣泛組織上海工人舉行第三次武裝起義，並發動學生、市民給予配合。子文受黨組織的指示，來往於工人和學生隊伍之中，做警戒聯絡工作。這次鬥爭的勝利，使他進一步看到了工人階級的力量，懂得了槍桿子的重要，而且堅定了只有共產黨才是無產階級革命的主心骨。