據《史記》的《大宛列傳》和《西南夷列傳》記載，張騫於漢武帝建元六年(公元前135年)奉命出使西域，歷時13年，於漢武帝元狩元年(公元前122年)回國。他在大夏國(今伊朗、阿富汗一帶)看到了中國四川出產的蜀布和邛〔qiong窮〕竹杖，便命人詢問當地人，這些東西是從哪裡來的。當地人說：“這是從身毒國(今南亞次大陸)來的，身毒國在東南數千里，有蜀人在那裡賣東西，這些蜀布和邛竹杖就是從他們那裡買來的。”當時，漢朝人把印度翻譯為身毒。其實，在張騫通西域之前，人們就听說過，在四川西南大約二千里，有個身毒國。張騫是個愛動腦筋的人，他在大夏看到了中國的物產，回國後便向漢武帝作了詳細匯報。他說，大夏國在漢的西南，那裡的人民很仰慕中國，只是由於中間有匈奴人的阻擋，才不能和中國通好；但通過身毒國這條道路，大夏是可以與蜀地相通的，對中國來說，有了這條便捷的道路，是有利而無害的事情。漢武帝一聽，覺得很有道理，於是命令張騫派秘密使者到大西南去尋求通往印度的道路。張騫派出了一批秘密使者，分四條路線出發。但是，這些秘密使者走到雲南一帶就被當地的少數民族阻攔了，有的使者甚至被殺，終於沒能到達印度。後來，朝廷又連續派出十多批使者到西南，但都沒有達到目的。
西漢時期，自從張騫通西域以後，中國與印度西北部地區便有了一定的往來，由於匈奴人時常從中阻攔，所以在這條道路上的交往是時斷時續的。這條路被學者們稱為“西域道”。
西域道的開通，雖說在張騫通西域以後，但是並不排除在西漢以前即有此道存在。張騫兩次出使西域，所走的路即西域道。當時，匈奴為漢朝的西北大患，佔據西域要衝，自武帝以降，經昭、宣、元、成等幾代皇帝採取征伐、和親、置郡、屯田等種種手段，基本上控制了西域道，使之成為今天所說的“絲綢之路”。漢代的西域道分南北兩條。 《史記·大宛列傳》中說：“初，貳師(武帝時將軍李廣利號)起敦煌西，道上國不能食，乃分為數軍，從南北道。”《漢書》的《西域傳》和《陳湯傳》中也提到了南北道。一般認為，從敦煌向西，出玉門關、陽關到鄯善，由鄯善沿塔里木盆地的北緣經焉耆、龜茲等地越過蔥嶺的路線為北道，而由鄯善沿塔里木盆地的南緣經于闐、莎車等地越過蔥嶺的路線為南道。
由於西域道的開通，漢朝派往南亞的使節日益增多。 《史記·大宛列傳》記載，張騫二次出使西域時，曾在烏孫派副使到身毒。 “自博望侯騫死後……而漢始築令居以西，初置酒泉郡以通西北國。因益發使抵安息(今伊朗)、奄蔡(今烏拉爾、伏爾加河流域)、黎軒(今意大利一帶)、條枝(今地中海安提阿克〔Antioch〕)、身毒國。而天子好宛馬，使者相望於道。諸使外國一輩大者數百，少者百餘人，人所齎〔ji 機〕操大放博望侯時。其後益習而衰少焉。漢率一歲中使多者十餘，少者五六輩，遠者八九歲，近者數歲而反。”這樣龐大的使團，這樣頻繁的出使，漢人對印度的了解自然會日益增多。 《漢書·西域傳》記載了當時印度一些地區的情況，如當地的地理、物產、民俗及與漢朝的關係等。
東漢時，班超在西域經營達30年之久(公元73—102年)，對維持西域道的交通起到積極作用。這一時期，中國人對印度的了解比西漢時更進一步，其間的文化交流也較以前為頻繁。
另外，蜀布和邛竹杖的故事還告訴我們，我國西南還有一條通往印度的道路，儘管漢武帝時沒有打通，但它早已是客觀存在，民間的貿易活動早已進行。這與印度人稱中國為秦恰好相互印證。漢武帝雖然沒有打通此道，但民間的交往可以繼續進行。因為當地人雖阻殺官方使節，卻不一定攔截商人，商人可以為當地人帶來利益。這條道路被學者們稱為“滇緬道”。東漢時，這條道路仍然承擔著促進中國與印度文化交流的使命。
除了西域道和滇緬道以外，西漢與印度的交通還有一條海上通道，被學者們稱為“南海道”。
《漢書·地理志》有這樣一段文字：“自日南障塞、徐聞、合浦船行可五月，有都元國；又船行可四月，有邑盧沒國；又船行可二十餘日，有諶離國；步行可十餘日，有夫甘都盧國。自夫甘都盧國船行可二月餘，有黃支國，民俗與珠崖相類。其州廣大，戶口多，多異物，自武帝以來皆獻見。有譯長，屬黃門，與應募者俱入海市明珠、璧流離、奇石異物，齎黃金雜繒而往。所至國皆禀食為耦，蠻夷賈船，轉送致之。亦利交易，剽殺人。又苦逢風波溺死，不者數年來還。大珠至圍二寸以下。平帝元始中，王莽輔政，欲耀威德，厚遺黃支王，令遣使獻生犀牛。自黃支船行可八月，到皮宗；船行可二月，到日南、象林界雲。黃支之南，有已程不國，漢之譯使自此還矣。”能為多數中外學者所接受的看法是，文中的黃支即今南印度泰米爾納杜邦馬德拉斯附近的康契普拉姆一帶。而已程不國，則有學者以為是斯里蘭卡。僅從這段文字看，如果沒有多次航海的經驗，便不可能得出這樣一條清晰航線和這樣一份確切的時間表。這說明，西漢時期中國與印度的海上通道已經確立，它的起點在廣東，終點在黃支國或已程不國。漢朝使者到黃支國去，黃支國也有使者、商人到漢地來。當時的漢朝譯使沒有專船，要由外國的商船轉送，沿途風險很大，但船主卻有利可圖。即使一路順利，來回的路上也至少要近兩年的時間。
東漢時，南海道上的中印文化交流仍然不斷。 《後漢書·西域傳》記天竺國(印度的另一個譯名)說：“和帝時，數遣使貢獻，後西域反畔，乃絕。至桓帝延熹二年、四年，頻從日南徼外來獻。”在陸路不通的情況下充分利用水路，足見交往心情的迫切。