被寬大釋放的人員，一批一批地走了。有的由家屬接走了，有的出乾部送走了。到1976年春節之前，山西本省的被寬大譯放人員，絕大部分都走了；外省的寬釋人員，也相繼離開太原。根據勞改局王書記在大會上宣布的政策，和我本人所具備的條件，大家估計我會是第一批回北京的。但北京的被寬釋人員，已經走了幾批，勞改局的干部還沒有找我談回北京的事，我有些不解。我到勞改局詢問原因。一位科長說，早已把你的情況通知了北京市公安局，至今尚未接到回信；我再向北京打電話問問。問的結果是：我的原工作單位已經被撤銷；沒有接受單位，難以解決住房和工作問題。所以北京有關方面不同意我回北京。
幾經交涉，由我女兒向北京市公安局寫了一份保證書，保證我回到北京之後，不向政府要求住房和工作，有關方面才同意我回北京。山西省勞改局派了乾部和護士各一人，於1976年3月26日，把我送回北京，住在崇內旅館。北京市公安局的一位幹部找我談話。他說：原準備把你安置在山西。由於你女兒的要求，才同意你回北京；住房由你女兒解決，你每月可以到東城區街道辦事處領生活費18元。他打了一個電話給我女兒。不久，我女兒和我兒子來到旅館。那位幹部對我女兒說：你去叫一輛出租汽車，把你父親送到你給他找好的住處，汽車費可以到公安局報銷。我和女兒上了汽車，一直開到北京北郊清河鎮附近的一個農村。我女兒在這裡給我向一位農民朋友借了一間房子，我侄女正在給我安置床鋪，這就是我回到北京的新居。
當時，擺在我面前急待解決的問題有三個：即戶口、糧票、住房。那時的北京，還是“四人幫”統治的天下，事情很難辦。我拿著山西省公安廳發給我的北京入戶證，到派出所報戶口。派出所的戶籍員問：你住在什麼地方？門牌是多少號？我說：我前天剛回到北京，暫時藉住在朋友家中，我自己還沒有住房。戶籍員說：戶口、戶口，必須有住房，才能報戶口；你還沒有住房，沒有門牌號數，我們無法給你報戶口；你先到房管局租房子去吧。我到了房管局，要求租房子。房管員說：你拿出戶口本看一看。我說：我剛回北京，還未報戶口。房管員說：我們是北京市的房管局，你沒有北京市的戶口，即使有房子，也不能租給你。我拿著太原市糧食局發給我的轉糧食關係證明，到北京市糧食局領糧票，糧食局的同志說得更乾脆：你先拿戶口本來領糧食本，再拿糧食本領糧票。我住的郊區農村，離城約有20裡，我的視力又不好，為了解決這三個小問題，幾乎每天都要克服困難，跑個來回。我上訪過北京市政府、市公安局、公安局東城分局、交道口派出所、市房管局、東城區房管局、交道口房營所、市糧食局、東城區糧食局、街道辦事處等等機關。費時三個多月，這三個問題都沒有得到解決。
後來，我聽說這次寬大釋放原國民黨在押人員的文件，是由中央統戰部和國家公安部發出的。於是我到中央統戰部上訪。接待的同志說：我們統戰部只管政治，關於生活安置問題，由公安部和北京市負責。我又到公安部上訪。我說明來意後，接待的同志說：政府既然讓你回來，北京市就得讓你吃飯，不管別的問題怎樣解決，糧票問題總得先解決。他要我寫了一份材料，由公安部轉給北京市公安局。
過了一段時間，我到北京東城區區委統戰部上訪，談了公安部的意見，要求解決糧票問題。東城區委統戰部負責人於水旺同志熱情地接待了我，並接受我的要求。他當即打電話給公安局東城分局，建議每月先借給我糧票，以便生活。東城分局同意了。我到該分局見到一位魏同志，他約定9月10日陪同我到糧食部門］，辦理借糧票手續。 9月9日，毛主席逝世，北京各機關都忙於辦喪事，我的借糧票問題也延期了。 9月下旬辦妥借糧票手續，每月可以從北京東城糧食局借到糧票28斤。每月18元人民幣的生活費和28斤糧票，這是我回到北京後的唯一生活來源。
1976年10月，“四人幫”被打倒了，形勢開始好轉。東城區委統戰部與東城分局研究決定，給我單位戶口，報在我女兒的住處。這樣解決了我的戶口問題，我成為北京市的正式公民。剩下的一個問題是住房問題。東城區委統戰部雖然已經和房管所聯繫了關於我的住房間題，我自己也多次往訪房營所，回答總是說：沒有房子。 1977年1月8日，我寫了一封悼念週總理逝世一周年的信，寄給了當時擔任全國人大常委會副委員長的鄧穎超同志。信中談到我當時的困難處境我回到北京將近一年，仍流落在京郊農村中，沒有一個安定的住所。鄧大姐把我的信轉給了東城區委。 2月下旬，東城區委統戰部通知我去看房子。這是一間8平方米的小平房，座落在北京東城區交道口東大街96號的大雜院內。我到房管所辦了租房手續，於1977年3月8日，搬進這間小平房。我命名這間小屋為“九六陋室”。雖然是陋室，卻是我的發祥地。我讀書、睡覺、做飯、寫申訴、接待新聞記者…都在這間小屋裡。我在這裡向黨中央、國務院的有關單位寫了100多份申訴（其中包括胡耀邦同志批的那封申訴信），接待了幾位新聞記者，我的冤案便大白於天下。我在這間小屋裡還輔導了6名高中畢業生考大了大學；其中的一名還在美國得到了博士學位。
現在介紹一下大院的情況。這個大院共住了16戶，有14戶是工人家庭，有一戶男的是中學老師，女的是工人師傅，他們對我都很照顧。特別和我住隔壁的李學儉師傅，他是河北省吳橋縣大，在南口暖瓶廠工作。他看我生活困難，主動要藉錢給我，我婉言謝絕。安爐子、掛蚊帳等我做不了的家務活，他主動幫忙；他家改善生活，他的老伴趙同志總是送給我一份。當時我的視力很差，燒蜂窩煤對不上眼；他女兒炳芬、兒子炳洲、炳海輪班給我生爐子、封爐子。大院內沒有廁所，要到大門外小胡同上公共廁所，晚上我看不見路，由炳洲或炳海領著我去。張梅芬同志是大院裡唯一的一位共產黨員，她參加街道工作，常動員我去聽政策性的傳達報告；我有病住醫院時，她讓她的愛人李國強師傅帶著水果去看我。大院附近有三位青年工人，聽說我搬進了大院，主動來看望我。他們的名字叫馬長輝、趙端鈞、劉漢如。他們熱情誠懇、慷慨義氣，幫助我解決了很多困難。例如：我的視力不好，不能謄清我向各有關單位寫的100多份申訴材料，都是由馬長輝同志代我謄清的。他白天上班，夜間謄寫，每次都按時寫好，字字楷書，一字不錯。趙端鈞、劉漢如兩同志經常幫我料理家務活，如換煤氣、買蜂窩煤、送文件、看病等等，從不嫌麻煩。趙端鈞同志的愛人楊同志，每逢過節，總是約我到她們家改善生活。劉漢如看到我在小屋裡蒸窩窩頭，轉身獻出去買回一飯盒包子來……。這是我回到北京結交的幾位青年朋友。有一次我到北京陶然亭甲8號中共中央、國務院聯合接待站上訪，遇到一位全超凡同志，他看我視力不好，主動幫我填寫了登記表，並把我送回我住的地方。以後他多次協助我到中央組織部、最高人民法院、最高人民檢察院等單位上訪，對我爭取平反，起了積極作用。
1977年暑假是打倒“四人幫”後高等院校第一次恢復統一招生。有七八名高中畢業生來找我給他們輔導功課，結果有6名考上了大學。我還修訂出版了《自然常識問題解答》（物理部份）。