釋迦牟尼如來成道的初一七日，當自受法樂時，為金剛諸大菩薩，說此真言，即為本宗的起源，金剛薩埵既受法已，遂結集成《大日經》、《金剛頂經》各十萬頌，納於南天鐵塔。後來龍樹菩薩開南天鐵塔，親見金剛薩埵，承受大法，並受兩大部經。其後龍樹授法於龍智菩薩，龍智化行於南天竺及師子（錫蘭）等國，壽七百餘歲，並傳兩部大法於善無畏、金剛智兩三藏大師。
善無畏初學空宗，入密後化行南印度，開元四年前來長安，從事譯經，譯有《大日經》七卷，《蘇悉地羯羅經》等三卷，在華十九年，享壽九十九年而卒。金剛智於開元八年，偕其弟子不空，由海道來華，亦赴長安譯經，譯有《金剛頂經》，年七十一歲，卒於洛陽廣福寺。彌留時囑其弟子不空返印，覓求《大日經》及《金剛頂經》完本，不空乃至廣州返印，至天寶五年（公元746）攜回多數梵本，重來中土譯經，所譯經典，相傳有一百十部一百四十二卷，實為羅什與玄奘以後的一大翻譯家，我國密教的大成，實有賴於不空的功績。不空的弟子為數甚多，其中最重要的為慧果，慧果傳義操，義操傳義真。日僧空海亦係慧果的弟子，為日本密宗的弘始人，至今傳持不絕，稱為“東密”。西藏佛教也屬密宗，直接傳自印度，通稱為“藏密”。本宗以《大日經》、《金剛頂經》、《蘇悉地經》三部為所正依的經典。 《大日經》是毘廬遮那佛在法界空的一會，而說示阿字本不生的真理，一切眾生本有的曼荼羅的。 《蘇悉地經》是說真言行者的莊嚴作法行持律儀等的。這即是真言三部經的要義。
真言宗注重儀式、觀想、結印、持咒，以使身、語、意三密相應。受三密的加持，即可即身成佛，達到自證的真法真理。修三密的。要身結手印，口唱真言，意住三摩地，創立客觀莊嚴環境，以永留意中。長起滋潤作用，而激發相應行為，以獲相應的果報。修到佛凡一體，生佛一如的境界，即可發揮著無限的威神力量。又真言宗是以曼荼羅為本。在曼荼羅中，能攝盡密教的所有的問題。由曼荼羅的考察，能明白佛身的相狀、佛身的建立、佛身的象徵等等，同時也可以理解本宗的教理與組織大綱，故曼荼羅是本宗的精髓，同時也是表現著佛教藝術的極致。曼荼羅的內容是千差萬別的，但同一表現的東西，卻可以分為四種來觀察：
（一）大曼荼羅：是表示宇宙全體的形象，是指萬有的普遍相，從六大所成的現象，諸法的全體，叫做大曼。即就佛菩薩而言，諸尊相好，亦名大曼荼羅。
（二）三摩耶曼陀羅：——是指現象的特殊相，宇宙中的每一現象，都有他各自的特相，事事物物，並不是無意義的存在。一切的東西，都有很深奧的各自的生命和價值。一一東西，都有表示著各自的本誓。三摩耶有平等、本誓、除障、驚覺等四義。其中以本誓為最近原意，乃一種作用的理想，如諸佛菩薩，所持的刀、劍、輪寶、蓮花等器具和手印，都是像徵著諸佛菩薩的誓願。
（三）法曼荼羅：——是指一切的語言、音聲、文字、名稱等意思。一切的東西，既有其特殊意義和理想。其表現在聲音或名稱的時候，當亦發生特種的意義。十種法界，悉具語言，六塵諸法，皆是文字。一切的語言，所有的文字，即是如來的語言文字。例如把頭一個字用梵字表現出來的真言，以代表諸尊的記號，“阿”字表示大日如來，“用”字表示阿彌陀佛，均係此意。
（四）羯摩曼陀羅：——是表示著宇宙事物活動作用。羯摩是作業的意思，一切的事物是實在的象徵。所有一切的作用活動，均是實在本身的活動，四大的運行，日月星辰的異動，皆是從實在所發的有意義的活動。從密教上言，諸佛的威儀事業，即在鑄塑雕刻上所表現的威儀活動都是羯曼；從廣義上看，眾生界的行住坐臥，一切的活動行為，也都是羯摩曼荼羅。