隋朝的大運河，全長兩千五百多公里，共分五段，即廣通渠、通濟渠、永濟渠、山陽瀆和江南運河，這五段運河聯通了海河、黃河、淮河、長江、錢塘江等五大水系，將隋朝南北有機聯系了起來。
其中，廣通渠、山陽瀆是隋文帝時期開鑿的，通濟渠、永濟渠、江南運河是楊廣在位時開鑿的。
開鑿廣通渠：
公元584年，隋朝都城長安內糧倉空虛，百姓無糧可食，整個關中遭遇到嚴重的糧食危機。
為了緩解危機，隋文帝楊堅立刻組織人力將關東各州的糧食轉運至關中。
可是，由于陸路運輸糧食速度緩慢耗費巨大，水路運輸雖然省時省力，可用船從黃河經渭水來運輸糧食時，渭水的水少沙多又導致渭水河道深少淺多起伏不定（渭水多沙，流有深淺，漕者苦之。節選自《隋書·食貨志》卷二十四），這樣一來，運輸糧食的槽船在深少淺多的渭水逆流向西時便經常擱淺誤事，有時得耗時好幾個節氣才能運糧至京城（一年分二十四節氣）。
于是，為了將山東的糧食財賦安全迅速地轉運至關中，盡快緩解關中百姓的缺糧危機，隋文帝特地下詔：令太子左庶子宇文愷和開漕渠大監郭衍共同負責，引渭水從都城大興城到潼關附近的黃河開鑿一條人工渠。
宇文愷、郭衍領命后，便于當年六月率領水工和數萬百姓從大興城開始向東開鑿新河渠，經新豐（今陜西臨潼）、渭南、鄭縣（今陜西華縣）、華陰等地，東至潼關，而后繼續開渠，終至附近的黃河。
該渠耗時三個多月而成，全長三百余里，因經過置于渭水與黃河交匯處的廣通倉，故稱廣通渠。
廣通渠開通后，關東地區的糧食經該渠得以迅速快捷地運至長安，關中人民深感其便利，故在當時稱其為富民渠。
開鑿山陽瀆：
公元587年四月，考慮到廣通渠對糧食運輸的巨大保障貢獻，同理，為了籌備好滅陳戰役的后勤供應，確保隋軍攻陳時能便利迅速地向前線運輸糧食、武器裝備等軍資，隋文帝下詔：開鑿一條聯通淮河與長江的運河。
于是，隋朝運河中的山陽瀆開始開鑿：
由于隋文帝在戰前不敢過分傷民（否則作戰時后方極易生亂），所以該運河只是動員當地數萬民工，將春秋時期吳王夫差開鑿過的邗溝進行再次疏浚和拓寬，整個工程從淮河流域的山陽（今江蘇淮安）開始疏浚，經安宜（今江蘇寶應南）、高郵（今江蘇高郵），向南拓寬至江都（今江蘇揚州），再到長江，最終將淮河和長江再次聯通了起來。
結果，這條運河的重新疏浚和拓寬，對后來滅陳戰役的成功，也確實起到了相當程度的后勤保障作用。
公元604年，隋文帝楊堅駕崩，太子楊廣繼承皇位，是為隋煬帝。
次年改元大業后，三月二十一日，功業心被壓抑已久的皇帝楊廣正式下詔：大規模開鑿運河！
就這樣，在隋朝百姓的辛勤開鑿下，弊在當代，利在千秋的大運河于短短幾年間就迅速竣工了。
具體說來，楊廣下令開鑿的隋朝運河共分三期才竣工。
第一期（公元605年）：為快速高效地將江淮地區的賦稅運往洛陽和長安，同時也為了確保自己能夠輕松便捷地順河乘船到江南游山玩水，楊廣下令開鑿通濟渠、整修山陽瀆。
至于具體安排，楊廣令尚書右丞皇甫議主持此項工程。皇甫議征發河南、淮北各州的一百多萬民工，并指揮民工們先從洛陽西苑開鑿渠道，引洛水、谷水流入黃河；再從板渚開鑿渠道引黃河水經滎澤流入汴河；然后，百姓從大梁東部開渠引汴河水流入泗水，再鑿渠引泗水注入淮水。
同時，楊廣還征發十幾萬的淮南民工疏浚古邗溝，即將聯通淮河與長江的人工渠山陽瀆，進行重新整修和拓寬，使其與通濟渠的高規格相匹配。
整個工程，從三月開始，到當年秋天竣工，開鑿成的通濟渠和重新整修的山陽瀆，渠水寬四十步，水中可行龍舟，運河兩岸還筑有御道，岸邊種植著柳樹，自洛陽至江都，將近一千公里的沿途，還建筑了四十余行宮供楊廣下龍舟休息。
至此，溝通黃河、淮河、長江三大水系的通濟渠和山陽瀆被開鑿、整修完成。
第二期（公元608年）：為便利黃河北部的軍事運輸，鞏固東北部邊防，并為北征高麗作準備，楊廣下令開鑿永濟渠。
這項工程，楊廣命殿內丞閻毗為工程總監，征發了河北各郡的一百多萬民工從事開鑿工作。
永濟渠從沁水與黃河交匯處向北開鑿河渠，引沁水北上，途中與清水、淇水相接，在獲得補充水源后，向北經河南新鄉、汲縣（今河南衛輝）、黎陽（今河南浚縣）、內黃（今河南內黃西南）、魏縣（今河北大名西）、館陶、臨清（今河北臨西）、清河、長河西（今山東德州）、東光、長蘆（今河北滄州）等地直達涿郡（今北京）。
永濟渠全長兩千余里，河道較寬，可通龍舟，可運輸作戰物資。
第三期（公元610年）：開鑿江南運河，隋煬帝欲南巡會稽（今浙江紹興），歷來講究排場意欲收買江南人心的他，遂下令對六朝時的江南運河進行疏浚、拓寬。
江南運河從北長江附近的京口（今江蘇鎮江）開挖，向南經曲阿（今江蘇丹陽）、晉陵（今江蘇常州）、無錫（今江蘇無錫）、吳縣（今江蘇蘇州），一直挖到余杭（今浙江杭州）的錢塘江結束。
該運河全長八百余里，水面寬十余丈，可通龍舟，并在沿岸設置了驛宮，作為隋煬帝南巡時上岸休息的場所。
總體來說，隋朝大運河的開鑿，雖然給當時的天下百姓帶來了巨大的痛苦，甚至以餓殍遍野、莊稼荒蕪、國破家亡為代價，但是有舍才有得。開鑿成的各處運河，既能如統治者意志那樣有利于全國糧食的運有余補不足，有利于稅賦的高效轉運，繼而有助于統治者解民于倒懸，又能保證軍事行動的后勤供應，繼而確保隋軍作戰的大多數勝利。此外，隋朝大運河在客觀上還促進了南北經濟文化的交流和共同發展，客觀上促進了運河兩岸百姓和城市（如洛陽、開封、杭州等）的繁榮發展。
開鑿運河，有利有弊，但弊在當代，利在千秋，這就是毀譽參半的隋朝大運河。
綜上所述，隋帝楊堅楊廣父子即使勞民傷財，仍要開鑿大運河，主要是因為：
其一，開鑿廣通渠，是為了通過漕船及人工渠的水上運輸，將潼關以東地區的糧食便利快速地轉運至關中地區，以緩解關中的缺糧危機，長遠來看，也為了便利關中與關東地區的經濟、文化交流；
其二，疏浚、拓寬山陽瀆，是為了確保隋軍攻陳時能便利迅速地向前線運輸糧食、武器裝備等軍資，為滅陳戰役做好后勤供應；
其三，開鑿通濟渠，是為了快速高效地將江淮地區的賦稅運往洛陽和長安，同時也為了確保楊廣能夠輕松便捷地順河乘船到江南游山玩水；
其四，開鑿永濟渠，是為便利黃河北部軍事物資的運輸，方便楊廣視察并鞏固東北部邊防，并為北征高麗作準備；
其五，疏浚、拓寬江南運河，是講究排場和享受的楊廣為了南巡會稽鎮服南陳土著勢力而采取的恩威并施之舉。
