解思忠1946年4月23日生於山西運城，一歲時父死財空，全家在西安依靠母親做工艱難度日；解放後，政府曾救濟給麵粉、布匹，有兩個姐姐還被社會福利機構收養。由於在城市生活難以為繼，母親便於1950年底拖兒帶女回到闊別10多年的原籍山西萬榮，先投奔娘家，後來才回到老家北牛池村。老家只有一位繼祖母，已多年沒有聯繫，“土改”中又被劃為“地主”，此時就更是難以求助，全家只好依靠母親務農繼續艱難度日。
解思忠6歲上學，因家窮買不起課本，便藉用上一年級學生使用過的舊課本。當時學校要求每個學生準備兩支毛筆，一支粗點的寫大楷，一支細點的寫小楷；而他只有一支姐姐用過的大楷筆，寫小楷時便用大楷筆的筆尖小心翼翼地去寫。由於害怕老師會歸咎於沒有按要求準備毛筆，他的毛筆字寫得格外認真；每張都有許多大楷字被老師用紅筆在旁邊“畫圓圈”，小楷字則有許多被老師用紅筆在旁邊“點瓜子”，即點上形如瓜子的頓點，都是表示寫得好。
12歲那年，解思忠到10多里遠的縣城去上中學，從此便離家獨立生活。當時家中依然困難，為了省錢，他長期自帶乾糧，入學校的“水灶”——每月交兩元錢，只喝食堂的開水；一天三頓飯幾乎都是開水泡饅頭，再放些鹽，連鹹菜也不買。冬天，饅頭冰凍後用手掰不開，就在門邊磚牆的棱角上用力去砸，邊砸邊把散落在地上的小碎塊揀起來放進盛著開水的碗裡——後來水就變涼了。到夏天，饅頭很快會長出綠毛，他用手擦一擦便吃了下去；有時甚至會霉變成白色的鬆散物，也只好就那樣吃下去。
從上初中開始，解思忠便開始利用假期和課餘勤工儉學；有時到建築工地上當小工，有時採集洋槐樹籽去賣。初中畢業剛參加完升學考試，他就和一個小伙伴進山割草，餓了啃乾糧，渴了就用手掬著喝窪地上積存的雨水；傍晚，兩人用獨輪車把割的草運出山，晚上就在附近一個同學家的土炕上和衣而睡。一個假期下來，割草賣了30多元錢，解決了上高中後的學習費用。
回顧童年的艱苦生活，解思忠在《素質與命運》一書中曾這樣寫道：“我深深感到，貧困是人生寶貴的精神資源，從中可以學習到許多書本里學習不到的東西——從某種意義上說，是兒童成長不可缺少的精神鈣質。正是由於童年的磨難，使得我此後無論是在何種艱苦的環境之中，都沒有因物質生活貧困而退卻過。”
解思忠從小學習成績優秀，小學畢業後本來可以保送上中學，卻由於當時家人對有關政策規定不了解，而想當然地按繼祖母的成分將家庭出身填報為“地主”（一直到1984年在建設部工作期間入黨時，組織上才明確可暫填寫為“未劃”），故與保送無緣。從此，他便背上了沉重的思想包袱。值得慶幸的是，由於從小受母親的教誨，後來又受一位中學老師的影響，他一直保持著強烈的進取心。
上初中時，解思忠曾把白居易一首詠凌霄詩不僅背了下來，還用毛筆題寫在家中的牆壁上。這首詩的大意是：凌霄這種植物，本身不能自立，往往攀援於其它植物而“凌霄”，但當遇到大風時，卻往往避免不了“朝為拂雲花，暮為委地樵”的可悲命運。他之所以如此喜歡這首詩，就是有感於自己“低人一等”，又沒有可以攀附的社會關係，只有依靠自強、自立。
解思忠上學的那個年代，還沒有現在的九年制義務教育，從小學四年級初小畢業升高小就開始淘汰了，高小畢業後升初中又是一次淘汰；而最嚴酷的一次淘汰是1961年初中畢業升高中——由於國家正值困難時期，壓縮招生比例，當地的錄取率僅為百分之十幾。這樣層層淘汰的結果，使得小學畢業時一個班的同學中，最後只有他一人上了大學。
升入高中後，面對更為激烈的競爭，解思忠學習也更為刻苦。他的俄語成績在幾門功課中較為落後，為了趕上去，平時幾乎一直把俄語課本捲著塞在褲口袋裡，只要有片刻空閒，就拿出來看看；書頁被翻得又軟又薄，毛茸茸的，幾乎要粘在一起，只好把蠟燭熔化後滴在側面鑲一道硬邊，才能勉強揭開；第一冊書學完後，便如同一摞布片，從任何一個角度都能毫不費力地捲起來。高二第一學期期中考試，他的俄語成績以100分在全班獨占鰲頭。此後，他一直把這個分數保持到畢業；每次考試交卷後，老師當堂看過就張貼在教室後面，作為標準答案。
1964年高中畢業後，解思忠儘管由報考文科改為報考理工科，卻還是考取了第一志願——同濟大學，走出了哺育他長大成人、又給他留下太多難忘記憶的黃土高原，遠赴東海之濱的上海，開始了他的大學生活。
解思忠在大學學的是城市建設工程專業。通過前兩年的基礎課學習，完成了理工科的基本訓練，具備了一定的科學素養；尤其是高等數學這門課，使他獲益非淺。在兩個學年的學習中，他的高等數學成績一直保持著5分；參加工作後時過多年，還把《高等數學習題集》有選擇地做了一遍。他在《素質與命運》一書中曾這樣寫道：
數學以其嚴密的推理和高度的準確，培養了我的邏輯思維能力和窮追深究的思維習慣，使我每每為紛亂如麻的世事所困擾時，最終都能理出個頭緒來。數學是一種訓練思維的體操，是一門人生的智慧之學。我從數學的受益不僅在於人生，而且還在於文學。在許多人眼裡，文學與數學幾乎是絕緣甚至相悖的——文學寓思維於形象，數學寓思維於抽象。我的體驗卻不完全是這樣。大多數的文學作品誠然以狀物寫神為主，但高超的立意、透骨的剖析、合理的佈局和準確的描繪，莫不需要一定的抽象思維能力。
1966年夏天，解思忠即將升入大學三年級的時候，“文化大革命”爆發了。他的家庭出身問題當時雖已向有關方面提出，卻尚未做出結論；所以，仍然被視為“黑五類子女”，拒之於“紅衛兵”組織的大門之外。由於壓抑、苦悶，他盡量遠離學校和人群以逃避運動，當了一名“逍遙派”。當時，所能採取的最好辦法就是藉“大串聯”外出；所以，可以免費乘車時，他獨自一人云遊四方；後來停止免費乘車，他又與一位同學背起行囊，結伴而行，從上海出發，途經嘉興、杭州、紹興、諸暨等地，徒步走過了浙江、江西兩省，一直到停止“大串聯”。
在外出“大串聯”期間，解思忠雖然日行百里，卻興致勃勃，並觸景生情，寫了許多詩詞。例如：他1966年11月在大連海濱寫了一首《觀海》：“波平萬頃碧，濤生千堆雪；吾欲投其里，欣然化魚鱉”；1966年12月在黃河茅津渡口寫了一首《望黃河》：“黃水渾然去，勾我野人情：岸邊結草廬，披髮臥夕陽”。
結束“大串聯”返校後，解思忠在一位從事美術工作的朋友指導下，從臨摹《芥子園畫傳》入手，潛心學習國畫，主攻寫意花鳥與山水；在此期間，還欣賞了許多繪畫、書法作品，閱讀了一些藝術方面的圖書。後來，由於“戰備”要求，他不得不中斷學習，和其他同學一起被“疏散”到上海市郊的農村。儘管此後他再也沒有練習過國畫，卻一直保持著對中國書畫的濃厚興趣。
1970年夏天，按照“面向農村，面向廠礦，面向邊境，面向基層”的分配方針，最後兩屆大學畢業生絕大多數被分配到邊遠地區的基層單位。解思忠被分配到地處寶雞市的陝西省第七建築公司，在施工隊“接受工人階級再教育”，與從農村招來的農民工一起做小工，幹些挖土、搬磚、拌灰漿之類的力氣活。
1971年秋天，工地由於暫時沒有技術人員，把一座45米高的煙囪砌得彎彎曲曲，構成重大工程質量事故；公司召開了現場會，決定拆除重砌，並指定解思忠在繼續做小工的同時，負責該項工程的施工技術。對既沒有施工經驗、又得做小工的解思忠來說，這的確是個考驗。由於他的敬業與嚴謹，竣工後經儀器測量，垂直誤差居然為零，在公司一時傳為佳話；他自己也因此而很快被任命為施工技術員，在同一批分配來的40多名大學生中最早結束“接受工人階級再教育”。
1972年初，解思忠接受任命後離開寶雞市和剛組建的小家庭，來到地處秦嶺腹地的略陽鋼鐵廠工地。建築工地的生活本來就艱苦，由於地處山區，在艱苦之外還增加了單調，幾乎沒有什麼文化生活。工地食堂的早餐和晚餐從來不變，都是饅頭、玉米麵粥和同一種廉價的鹹菜；中餐很少有葷菜，大約每個月才能吃到一次肉。在礦區施工時，他一度住在山坡上用席子和油氈搭建的簡易工棚裡；床前荒草叢生，窗外青苔壁立，每天只有五六個小時能見到太陽。
儘管生活艱苦，解思忠和周圍的工人卻相處得很融洽。他對工人很尊重，經常教他們看圖紙，給他們講授建築施工知識；工人對他也很尊重，不僅在工作上支持，而且在生活上也給予關照。他在《素質與命運》一書中曾這樣寫道：
從懂事起，我就長期生活在農村，無論是家庭的社會地位，還是家庭的經濟狀況，都處於社會的底層，因此，從小就是仰面看著世界的一切……考上大學後，用一句世俗的話來說，就是成了'社會的驕子'——在當時的同齡人中，能上大學的還是極少數；然而，這種在底層社會生活中形成的平民意識卻已刻骨銘心。大學畢業後，在建築施工隊伍中生活的10年時間裡，與工人朝夕相處；這段經歷固然充滿了酸甜苦辣，卻更加強化了我的平民意識，使我此後無論在什麼環境中都能和周圍的人群融為一體，無論身居何等地位也不為職務所累，始終能以一個普通人的角色自由自在地生活。
解思忠在秦嶺大山里一呆就是三年多。 1975年夏天，由於修建首都國際機場候機樓，需要從公司借調施工人員，他被選任該項工程的技術監督——相當於現在的工程監理。當時，要求擔任這一職務的施工技術人員必須從未出現過工程質量事故；他從開始擔任施工技術員，到後來擔任施工隊技術負責人的三年多時間裡，負責施工過20多項工業與民用建築工程，從未出現過工程質量事故。
在首都國際機場候機樓工程長達四年多時間的施工過程中，每一道工序的交接和每一項隱蔽工程的覆蓋，都要求通知技術監督到場進行檢查，經驗收合格、簽字同意後才能進行下一道工序。由於解思忠的敬業與嚴謹，在整個施工期間，凡經他簽字驗收過的項目，從未出現過工程質量事故；候機樓工程竣工後質量被評為“優良”，他自己也被評為“先進工作者”。
1976年唐山地震後，解思忠曾到現場對建築物受災情況做過考察，感觸很深，便在緊張的施工之餘，獨立進行了關於工程抗震的科學研究；所撰寫的科技論文《關於提高磚砌體抗震性能的探討》，發表在國家級學術刊物《建築技術》上。鑑於他的施工技術水平與科學研究成果，由工程師晉升為高級工程師。
候機樓工程1979年秋竣工後，在社會上引起了廣泛關注，並得到各方面好評。當時的國家城市建設總局（後改組為建設部）從擔任候機樓工程施工的管理人員中選調機關幹部；經公司領導推薦，總局派人考察，解思忠於1980年初被借調試用，6月正式調入。
這次工作調動，意味著解思忠走出了秦嶺大山，離開了大西北，同時也結束了風雨10年、給他留下太多難忘記憶的建築工地生活。這次工作調動，標誌著解思忠人生道路上的一大轉折；從此，便由基層施工單位進入中央國家機關，走上了從政之路——儘管這是他此前從未想過的，也並非是他所刻意追求的。