在處理倒賣銀元的投機倒把分子時，新政權遇到了一個全新的問題。
在這些投機者中，有一大批是那些交易量在10元以下的小販子，對這些人基本上是抓後即放，但他們往往是上海缺少生活保障的底層市民。打擊銀元投機，基本上斷絕了這批人在解放初期的生活來源。軍管會幹部想了一個臨時的解決辦法，將他們組織起來協助抓大販子，並為其提供食物。問題是，這個群體之龐大，必須要有一個制度性的辦法來管理和安置。
“上海遊民數量的龐大是要比其他城市艱鉅得多的課題。”解放初任上海民政局秘書、後在上海市委政治法律委員會下屬裡弄工作委員會任辦公室主任的屠基遠回憶說，“我們接管了30個區，1193個保，28552個甲，1033206戶，5406644人口的戶籍冊。上海市是一個情況極為複雜的大城市，有產業職工100萬人，有大中小學生，散居在裡弄中。一個區的人口少則幾萬，多則40萬。”
19世紀20世紀上半葉中國地方政府對基層的控制，向來依靠的是地方官員和紳士之間力量的巧妙平衡。保甲制度就是這種平衡下的產物。
“光是區一級的機構是管理不了的，保甲制度取消後，必須考慮，區以下用什麼組織來代替保甲？政治如何通達基層？國家如何調控社會？”
與國民政府管理上海時面對的困難相似，上海這座城市的高度流動性，一直是對管理者的挑戰。在1958年以前，上海實行的城市戶籍制度的基本原則是“自由流動，重在管理”，因此，人口流轉十分頻繁。據屠基遠統計，從1950年至1955年，有263萬餘人遷入上海，遷出人口231萬餘，淨遷入人口約32萬。加之50年代早期湧入上海的大量災民、難民，上海城市的人口流動處在高峰時期，這對人民政府在基層社會劃定各種政治空間的範圍和人們的階級成分帶來了相當的難度。
到1920年，上海黑社會已經聚集了十萬個流氓，隨著社會無產者和破產者的增加，這個數字一直在擴大。 “在一些工人集中的居住區，每一次大規模的人口遷徙往往注入了許多外來因素——諸如地方幫派勢力，不斷改變小區原有的階級結構和社會生態。普陀區南英華里原是日商內外棉紗廠的工房，是工人聚居之地，抗日戰爭時期從閘北逃來一批人情況就日見複雜，蘇北幫、山東幫、安徽幫、河南幫常常發生械鬥。鎮反時共逮捕51人，槍斃主要骨幹5人，尚需處理的還有46人。”上海史研究者張濟順說。
另一些本已雜亂的下層居住區，隨著50年代早期人口流動的加劇，各種社會勢力的此消彼長愈益增強。一份關於嵩山區恆茂裡的情況調查稱，這是“上海著名的三大橋之一——八仙橋附近的一條裡弄，位於商業區的中心，是被大世界、青年會、大眾劇院、小菜場、幾家大商店及旅館、銀行包圍起來的一個正方形……該弄共住839戶，3711人。以店員為最多……人口的流動性很大，每天報（戶口）進報（戶口）出的約有20人左右……（弄內）社會情況復雜，黃金榮、杜月笙門下的徒弟不少，已處理的各類罪犯56名外，尚有販毒犯2名，流氓17名，小偷2名，私娼、地下舞女8名，黑律師1名。弄內的新生活旅館專為嫖客服務，賭風、竊風都很盛”。
依照共產黨對城市基層社會政治生活的基本安排，政治運動分別在單位和里弄兩大空間進行。最初的部署是單位為主，裡弄為輔；單位先行，裡弄後續。屠基遠說，這種考慮和做法源自於新政權管理城市社會的基本思路和構想，即把基層控制和管理分為兩大系統：單位人和非單位人。 “我們最初認為，近140萬職工和文教工作者是'城市工作的主要對象'。”“基層政治動員的最大難點便存在於後者：非單位人群中，這個群體因為多年流動變化而極難界定。據上海市委民政部門統計，到1954年8月，全市街道裡弄中有163萬多名攤販，15萬名左右失業人員、1萬多名未登記的工場、作坊、小店以及未經過民主改革的人員都未進行系統的清理，有不少裡弄變成了各地逃亡反革命分子和其他不法分子的藏身之所。”
儘管如此，新政權仍然需要將這筆巨大的社會資源轉化為可以調控的政治力量。屠基遠回憶中提起，在潘漢年跟他的一次交流中，打開了一條新的思路。 “潘市長對我說：'抗日戰爭時期，你不是在上海工作嗎？那時候，不是有很多人同我們一起搞抗日活動嗎？有些人因為環境關係，沒有跟我們一起到根據地，或者沒有參加黨，有的人可能做了太太，到裡弄裡去了。我所知道的就有不少這樣的人。他們受過革命的教育，不少人為我們出過力，今天是擁護我們，也願意做點工作的。你們可以找找婦聯，介紹一些老積極分子。'”屠基遠回憶，“後來，我們找到了不少老積極分子，當時不過三四十歲，一般都有文化，熟悉裡弄情況。那時什麼報酬也沒有，為裡弄做了許多工作，成為基層工作中一批骨幹。”
1949年下半年，一些居民區和里弄的無業者和一部分居民開始被組織起來，上海陸續出現了自治性的“房客聯誼會”、“自來水管理委員會”、“衛生委員會”。
居民委員會在上海是一個創舉。新政權找到了一條實際的途徑通過其政治功能的發揮，將50年代前半期的上海裡弄大規模動員起來。張濟順說，自1950年起，遍布上海的11155條裡弄就逐步建立了居民委員會。到1954年1月，全市共有居民委員會1847個，居民小組約有3.6萬個，居民委員會委員95284人，形成了一個自上而下的覆蓋到社會基層的組織網絡。 “在居民委員會的有效運作下，非單位人群投身政治運動之熱烈可說是史無前例。”