中國人對日本1931年9月侵占滿洲的憎恨和屈辱感激發了一場持久的全國性抵制日貨運動。學生和商人領導了抵制運動，但是廣泛的參與激起全國人民的一陣新的愛國熱潮。
這真是命運的嘲弄，童年時代在日本過得特別快樂的思成，成年生活的第一個嚴重打擊也是來自日本。具有諷刺意味的是，正是來自可恨的日本軍方的粗暴壓力把他作為業務繁忙的建築師和教師的大好事業的開端一下子打斷，迫使他尋求類似的新職業。
離開瀋陽時，思成已經接受了北京一個鮮為人知的小單位的職位，它是中國建築研究會（後改為研究所），正式名稱叫中國營造學社。
這是一個有錢人業餘愛好的副產品。它的創始人是梁啟超的同時代人朱啟鈐。朱啟鈐1872年生於貴州，是一位有能力的官吏，在其中年時曾在中國政府內擔任過許多高級職務。 1915年中華民國總統命令他作為內政部長修繕北京的皇宮，並恢復城門和一些古老的建築。在監督這些工程的過程中，他同那些一輩子維修這些皇家建築的工匠們關係密切。他從他們那裡學到很多中國建築方面的知識，等他到了退休年齡，他保持了他的興趣，繼續研究它的歷史發展。一個偶然的機會他在南京江蘇省宋代手稿圖書館看到一部珍貴的手稿《營造法式》，並把它印行了。思成非常珍視他父親寄給他的這本書。書的作者，李誡，是當時的朝廷命官，負責監管政府建築物的建造和修復。他和朱啟鈐一樣，經常同工匠們商量，這些工匠具有按照官家指示鋸削木材和建造房子的傳統手藝，他們“向他解釋了一切”。
發現李誡的書促使朱啟鈐建立中國營造學社。他聚集了一批老式的學者來從用文言文寫成的古書中搜尋關於中國建築的文獻。這些學者沒有一個具有任何中國建築學的知識。朱啟鈐自己也明白，木匠們的行話必須“破譯”。通常這些木匠都是不識字的，他們的建築方法都是用師傅向徒弟口授的辦法傳下來的，而且還被當成行業的秘密。
顯然朱啟鈐的研究所需要內行的領導。關鍵是要有一位具有中國典籍知識的現代建築師。朱啟鈐是梁啟超的同時代人，知道梁思成剛從國外學習建築回來。朱啟鈐在1930年找他談了話，建議他參加營造學社當研究部主任。
在1931年，顯然日本軍事佔領滿洲不會遭到抵抗，而他們迅速關閉大學已是不可避免，思成可以心安理得地接受朱啟鈐的建議。他自己對於中國建築史研究的熱情以及他對自己準備好接受這一任務的信心消除了可能殘存的任何懷疑。他從一開始就明白，他由於提出別人忽略了的問題是在開創一個新的研究領域。中國建築經歷了哪些發展階段，如何才能發現它們？在克雷的課程中，他知道了西方建築的發展階段。在繪圖中他被要求掌握它們，而在年復一年地伏案繪圖之後，他同徽因一起到全歐洲的蜜月旅行使他們兩人都學會一眼就能辨識代表他們學過的不同時期的建築物。
從他參加研究所的第一天起，梁思成就開始採取必要步驟來揭示中國建築的進化過程。他知道困難在於找到保存比較完好的早期古建築。而一個更加迫切的問題是盡可能找出那些過於古老以致不可能存留到二十世紀的更早的建築物以建立一條基本線索。
朱啟鈐在天安門內故官廢棄的一角建立了他的研究所總部。大概是他的長期官方關係幫他為他的項目爭取到了這樣的特權。思成在那裡設置了他的辦公室並立即開始了對《營造法式》的深入研究。在這一階段。朱啟鈐對《營造法式》不同版本的知識對他必定是有用的。然而，朱啟鈐那一代學者十分習以為常的咬文嚼字，在梁思成這樣的實踐建築師看來是不合用的。他需要知道李誡用古怪的技術名詞稱呼的木材的形狀和性能。 1925年版的插圖被大家誤解為對數百年來有些殘缺的文字的解釋。思成對《營造法式》的研究在此後的年代裡時斷時續，儘管他認為他從書中抽取的寶藏是“難以駁倒的”。
從思成開始他作為建築史學家的新事業時起，他就決心要尋找和發現中國建築的“文法”。通觀中國歷史，他認識到木框架是中國建築的基本形式。長城和許多城牆中間填泥、面上貼磚是例外，磚或石砌成的筒狀拱頂的墳墓也是如此。但是那些較少的用比較耐久的材料蓋成獨立式的紀念性建築，比如寶塔，一般都是木框架建築的直接模仿。思成急切地想了解中國木框架建築的建造原則以及過去三千年來這種建築方法的演變過程。
1932年，梁思成曾在哈佛研究過其圖集的日本考古學家常盤和關野出版了相關的文字卷，報告了他們在中國農村的考古旅行。在此以前思成自己並沒有遊歷鄉村的經驗，但是當他讀到日本人關於發現山西北部大同的遼代寺廟中的雕塑以及關於河南北部嵩山上1125年造起（和《營造法式》差不多同時）的小小尼姑庵初祖庵的記述時，是十分興奮的。法國漢學家伯希和當時剛剛出版了他在中國遙遠的西北敦煌佛教洞穴裡發現的壁畫照片集。從研究這些書籍以及其他出版物中的建築物圖像（特別是日本那拉的唐代寺廟）中，梁思成就能夠提出一些關於唐代建築、地面設計、建築物種類、寺廟設計圖、屋頂以及建築物的基地平台等的假設。
1932年三月出版的營造學社《彙刊》，登了思成的第一篇文章，專為蒐集現有的關於唐代寺廟和房屋的文獻資料。從文章一開始他就希望發現一座存留下來的唐代（公元618～907年）建造的木框架建築物。他的文章標誌著他已確定了朝向這個目標的行動路線。他很可能不會成功，因為時間已經過去了一千年，而木頭是一種易損的材料。即使有寬廣的、外伸的瓦頂作保護，木頭的柱子和桁架也很容易遭受蟲蛀、腐蝕和火災。可能人類是最大的敵人。對佛教的宗教迫害週期性地消滅僧侶，摧毀人們在那裡頂禮膜拜的巨大建築物。
這種文獻研究工作是有用的最初步驟，但它並未解開文本損毀的《營造法式》的奧秘。思成每天到故宮去上班，很快就找到了解決這個問題的實際好辦法。就像李誡本人一樣，他向在故宮中乾活的工匠尋求幫助。為了更好地利用他們的營造知識，他熟讀了1734年印行的清代建築手冊《工程做法則例》。儘管他認定它和較早的宋代手冊不是一個檔次，但它對他研究當時仍在北京佔統治地位的清代皇家建築幫助很大。他寫道：
“有了《工程做法則例》做教科書，木匠們做教員，清代宮殿做教具，
對清代建築的方法和規則的研究開始有了一個堅實的基礎。
“這本書，1734年由工部印行，共有七十章。它們涉及建築材料的計
算和'大木作'的規則。對二十七種大小的房子的每一個建築結構都不厭
其煩地提供了丈量方法。然而，對於確定每一種結構的方法和位置則很少
提到。如果沒有工匠來指出和解釋具體的例子，這本書是很難讀的。對於
中國建築中最獨持的'斗拱'的規則以及柱子的直徑和高度、屋頂的弧度，
書中都有敘述。其他的章節則談到'小木作'，接榫、石作、磚作、瓦作、
顏色，等等。 ”
思成把這種對尺寸的“不厭其煩”的敘述和宋代的手冊相對比，後者用一種非常合理的方式闡明了基本的原則，然後又提出具體衡量根據不同等級確定的各建築部位的公式。
他幸運地找到了兩位一輩子從事維修故宮裡的清代建築的老木匠。他和他們一起仔細檢查了木構件之間的複雜關係。這可不僅僅是工匠們“指出和解釋具體的例子”的問題，因為他不僅需要知道每一個構件的名稱，而且還得知道它們的位置以及每一構件在整體建築中的作用。就在這裡，在故宮房子裡，開始就近檢查和準確測量所要求的攀登。