海上丝绸之路形成于汉武帝之时。从中国出发，向西航行的南海航线，是海上丝绸之路的主线。与此同时，还有一条由中国向东到达朝鲜半岛和日本列岛的东海航线，它在海上丝绸之路中占次要的地位。关于汉代丝绸之路的南海航线，《汉书·地理志》记载汉武帝派遣的使者和应募的商人出海贸易的航程说：自日南（今越南中部）或徐闻（今属广东）、合浦（今属广西）乘船出海，顺中南半岛东岸南行，经五个月抵达湄公河三角洲的都元（今越南南部的迪石）。复沿中南半岛的西岸北行，经四个月航抵湄南河口的邑卢（今泰国之佛统）。自此南下沿马来半岛东岸，经二十余日驶抵湛离（今泰国之巴蜀），在此弃船登岸，横越地峡，步行十余日，抵达夫首都卢（今缅甸之丹那沙林）。再登船向西航行于印度洋，经两个多月到达黄支国（今印度东南海岸之康契普腊姆）。回国时，由黄支南下至已不程国（今斯里兰卡），然后向东直航，经八个月驶抵马六甲海峡，泊于皮宗（今新加坡西面之皮散岛），最后再航行两个多月，由皮宗驶达日南郡的象林县境（治所在今越南维川县南的茶荞）。 

宋代以后， 随着中国南方的进一步开发和经济重心的南移，从广州、泉州、杭州等地出发的海上航路日益发达，越走越远，从南洋到阿拉伯海，甚至远达非洲东海岸，人们把这些海上贸易往来的各条航线，通称之为“海上丝绸之路”。

西汉时期，南方南粤国与印度半岛之间的海路已经开通。汉武帝灭南越国后，凭借海路拓宽了海贸规模，这时“海上丝绸之路”兴起。

汉末三国处于丝绸之路从陆地转向海洋的承前启后与海上丝绸之路最终形成的关键时期。由于同曹魏、刘蜀在长江上作战与海上交通的需要，孙吴积极发展水军，船舰的设计与制造有了很大进步，技术先进，规模也很大。在三国后面的其他南方政权（东晋、宋、齐、梁、陈）也一直与北方对峙，也推动了造船、航海技术的发展，航海经验的积累为海上丝绸之路发展提供了良好条件。

魏晋以后，海上丝绸之路形成：以广州为起点，经海南岛东面海域，直穿西沙群岛海面抵达南海诸国，再穿过马六甲海峡，直驶印度洋、红海、波斯湾，对外贸易涉及15个国家和地区，丝绸是主要的输出品。

海上丝绸之路开辟后，在隋唐以前，即公元6世纪至7世纪，它只是陆上丝绸之路的一种补充形式。但到隋唐时期，由于西域战火不断，陆上丝绸之路被战争阻断，代之而兴的便是海上丝绸之路。

到唐代，伴随着我国造船、航海技术的发展，我国通往东南亚、马六甲海峡、印度洋、红海，以及非洲大陆的航路纷纷开通并延伸，海上丝绸之路最终替代陆上丝绸之路，成为我国对外交往的主要通道。

宋代造船技术和航海技术明显提高，指南针广泛应用于航海，中国商船的远航能力大为加强。宋朝与东南沿海国家绝大多数时间保持着友好关系，广州成为海外贸易第一大港。

元朝在经济上采用重商主义政策，鼓励海外贸易，同中国贸易的国家和地区已扩大到亚、非、欧、美各大洲，并制定了堪称中国历史上第一部系统性较强的外贸管理法则。海上丝绸之路发展也进入鼎盛时期。

明代海上丝绸之路航线已扩展至全球，进入极盛时期。向西航行的郑和七下西洋，是明朝政府组织的大规模航海活动，曾到达亚洲、非洲39个国家和地区，这对后来达·伽马开辟欧洲到印度的地方航线，以及对麦哲伦的环球航行都具有先导作用。向东航行的“广州—拉丁美洲航线”（1575年），由广州起航，经澳门出海，至菲律宾马尼拉港，穿过海峡进入太平洋，东行至墨西哥西海岸。

明清两代，由于政府实行海禁政策，广州成为中国唯一对外开放的贸易大港。广州的海上丝绸之路贸易比唐、宋两代获得更大的发展，形成了空前的全球性大循环贸易，并一直延续至鸦片战争前夕而不衰。鸦片战争后，中国海权丧失，沿海口岸被迫开放，成为西方倾销商品的市场。从此，海上丝路一蹶不振，进入了衰落期。这种状况贯穿整个民国时期，直至新中国成立前夕。

张骞出使西域后，汉朝的使者、商人接踵西行，西域的使者、商人也纷纷东来。他们把中国的丝和纺织品，从长安通过河西走廊、今新疆地区，运往西亚，再转运到欧洲，又把西域各国的奇珍异宝输入中国内地。这条沟通中西交通的陆上要道，就是历史上著名的丝绸之路。汉武帝以后，西汉的商人还常出海贸易，开辟了海上交通要道，这就是历史上著名的海上丝绸之路。