隋文帝杨坚在位期间，为了兴兵伐陈，从今淮安到扬州开凿了山阳渎。这条运河的开通，使得南北交通更加便捷，为隋朝的统一大业奠定了坚实的基础。然而，这条运河在开通后，由于河道弯曲，船只行驶不便，因此隋文帝又下令对其进行整治取直，使运河不再绕道射阳湖。

隋炀帝杨广继位后，继续大力发展水利事业。大业元年（605年），他下令开凿通济渠，这是一条连接黄河与淮河的重要水道。通济渠西段自今洛阳西郊引谷、洛二水入黄河，东段自荥阳汜水镇东北引黄河水，循汴水（原淮河支流）经商丘、宿县、泗县入淮。这条运河的开通，使得中原地区的物资能够顺利运往南方，进一步促进了南北经济文化的交流。

大业四年（608年），隋炀帝又下令开凿永济渠，引黄河支流沁水入今卫河至天津，继溯永定河通今北京。这条运河的开通，使得北方的物资能够顺利运往南方，进一步加强了南北经济文化的交流。

公元610年，隋炀帝再次下令开凿江南运河，由今扬州、镇江引江水经无锡、苏州、嘉兴至杭州通钱塘江。至此，建成以洛阳为中心，由永济渠、通济渠、山阳渎和江南运河连接而成，西接大兴，南通余杭，北通涿郡，全长折今2700余公里的大运河。

大运河的开通产生了久远而积极的影响。它为以后的历代经济发展起到了很大的促进作用，在大运河修筑成功和此后发挥作用的五百余年时间之内成为沟通隋唐大运河沿线的重要政治、经济、文化的纽带。成为南北交通的大动脉，促进了南北经济文化的交流，泽被至今；对巩固统一和社会经济的发展都发挥了重要作用。但在隋炀帝大业年间修建过程中过重的劳役加重了普通百姓的负担，导致阶级矛盾激化，使得民怨沸腾，同时，隋炀帝利用大运河，组织到江南巡游，也进一步加剧了当时的阶级矛盾，成为隋末民变的诱因之一。

Durante o reinado do Imperador Wen de Sui Imperador Yang Jian, a fim de levantar tropas para atacar Chen, ele cavou Shanyang de Huai'an para Yangzhou. A abertura deste canal tornou o tráfego norte-sul mais conveniente e estabeleceu uma base sólida para a unificação da dinastia Sui. No entanto, após a abertura deste canal, devido ao canal torto do rio, era inconveniente para os navios viajarem, então o imperador Wen de Sui ordenou que fosse endireitado para que o canal não desviasse mais para o Lago Sheyang.

Depois que o imperador Yang Guang da dinastia Sui sucedeu ao trono, ele continuou a desenvolver vigorosamente a conservação da água. No primeiro ano da Grande Causa (605), ordenou a construção do Canal de Tongji, uma importante via navegável que liga o Rio Amarelo ao Rio Huai. A seção oeste do Canal Tongji leva o vale e Luoershui dos subúrbios ocidentais de Luoyang para o Rio Amarelo, e a seção leste desvia a água do Rio Amarelo do nordeste da cidade de Xingyang Bishui, e entra no rio Huai através dos condados de Shangqiu, Suxian e Si ao longo do Bianshui (o afluente original do rio Huai). A abertura deste canal permitiu que os materiais das Planícies Centrais fossem transportados suavemente para o sul, promovendo ainda mais os intercâmbios económicos e culturais entre o norte e o sul.

No quarto ano da Grande Causa (608), o imperador Yang de Sui ordenou que o Canal Yongji fosse cavado para desviar o Qinshui, um afluente do Rio Amarelo, para o atual Rio Weihe para Tianjin, e então rastreou o Rio Yongding até a atual Pequim. A abertura deste canal permitiu o transporte harmonioso de materiais de norte para sul e reforçou ainda mais os intercâmbios económicos e culturais entre o norte e o sul.

Em 610 d.C., o imperador Yang da dinastia Sui ordenou a escavação do Canal de Jiangnan novamente, levando o rio de Yangzhou e Zhenjiang para Hangzhou através de Wuxi, Suzhou e Jiaxing até o rio Qiantang. Até agora, o Grande Canal com Luoyang como centro, conectado pelo Canal Yongji, Canal Tongji, Shanyang Du e Canal Jiangnan, conectando Daxing no oeste, Yuhang no sul e Zhuo County no norte, com um comprimento total de mais de 2.700 quilômetros.

A abertura do Grande Canal teve um impacto duradouro e positivo. Desempenhou um papel importante na promoção do desenvolvimento económico das dinastias subsequentes e tornou-se um importante elo político, económico e cultural ao longo do Grande Canal nos mais de 500 anos desde a construção bem sucedida do Grande Canal e do seu papel subsequente. Tornou-se a principal artéria de transporte norte-sul, promoveu os intercâmbios económicos e culturais entre o norte e o sul, e tem sido até agora; Desempenhou um papel importante na consolidação da reunificação e no desenvolvimento social e económico. No entanto, durante o processo de construção do imperador Yang da dinastia Sui, o trabalho excessivo aumentou o fardo das pessoas comuns, levou à intensificação das contradições de classe e fez ferver as queixas do povo.