中國清真寺與外國禮拜寺的作用不盡相同。中國清真寺不僅是禮拜的場所，而且是穆斯林群眾性活動和集會的場所，是穆斯林舉行婚喪儀式和宰牲以及處理民事糾紛的場所。
宋元時期內地的幾座著名的清真寺，例如廣州懷聖寺、泉州清淨寺、杭州真教寺、揚州禮拜寺，史志、碑文都載有修建人名字及修建始末，當屬私家建築無疑。但是，當地穆斯林可以到這裡來作禮拜及進行其他非宗教性活動。明朝敕修(官修)清真寺增多。此後，清真寺大概由私人修建為主轉變為官方修建或一坊教眾集資修建為主。
清真寺的建築構成，無論殿堂式的還是阿拉伯式的，一般都有禮拜殿，殿內西壁有窟龕，窟龕前有“敏拜爾”(一個有階梯和扶手的講台)，以為宣講教義之用；有水房子(沐室)，禮拜前在這裡作小淨。作為一個清真寺至少要有以上這兩部分建築。此外，有的清真寺在寺前建有較高的塔式建築，叫宣禮樓。有的清真寺在寺內闢有經室，存放經典；還有供阿訇和學員辦公、學習和休息、住宿的地方。清真寺內絕對沒有任何偶像，其內外裝飾也多以阿拉伯文字、幾何紋和花卉紋等組成的抽象性圖案為主，沒有任何人形和動物形組成的圖案。