唐朝的运河建设，主要是维修、完善隋朝建立的这一大型运河体系。同时，为了更好地发挥运河的作用，对旧有的漕运制度，还作了重要改革。

　　隋文帝时穿凿的广通渠，原是长安的主要粮道。当隋炀帝将政治中心由长安东移洛阳后，广通渠失修，逐渐淤废。唐朝定都长安，起初因为国用比较节省，东粮西运的数量不大，年约几十万石，渭水尚可勉强承担运粮任务。后来，京师用粮不断增加，严重到了因为供不应求，皇帝只好率领百官、军队东到洛阳就食的地步。特别是武则天在位期间，几乎全在洛阳处理政务。于是，有天宝元年(公元742年)重开广通渠的工程。新水道名叫漕渠，由韦坚主持。当时在咸阳附近的渭水河床上修建兴成堰，引渭水为新渠的主要水源。同时，又将源自南山的沣水、浐水也拦入渠中，作为补充水源。漕渠东到潼关西面的永丰仓与渭水会合，长300多里。漕渠的航运能力较大，渠成当年(开元二年)，即“漕山东(崤山以东)粟四百万石”。

　　将山东粟米漕运入关，还须改善另一水道的航运条件，即解决黄河运道中三门砥柱对粮船的威胁问题。这段河道水势湍急，溯河西进，一船粮食往往要数百人拉纤；而且暗礁四伏，过往船只，触礁失事几近一半。为了避开这段艰险的航道，差不多与重开长安、渭口间的漕渠同时，陕郡(治所在今三门峡市西旧陕县)太守李齐物组织力量，在三门山北侧的岩石上施工，准备凿出一条新的航道，以取代旧航道。经过一年左右的努力，虽然凿出了一条名叫开元新河的水道，但因当地石质坚硬，河床的深度没有凿够，只能在黄河大水时可以通航，平时不起作用。三门险道问题远未解决。

　　通济渠和永济渠是隋朝兴建的两条最重要的航道。为了发挥这两条运河的作用，唐朝对它们也作了一些改造和扩充。隋朝的通济渠，唐朝称汴河。唐在汴州(今开封市)东面凿了一条水道，名叫湛渠，接通了另一水道白马沟，而白马沟下通济水，这样，便将济水纳入汴河系统，使齐、鲁一带大部分郡县的租、调，也可循汴水西运。唐对永济渠的改造，主要有以下两个工程。一是扩展运输量较大的南段，将渠道加宽到17丈，浚深到24尺，使航道更为通畅。二是在永济渠两侧凿了一批新支渠，如清河郡的张甲河，沧州的无棣河等，以深入粮区，充分发挥永济渠的作用。

　　对唐朝政府来说，大运河的主要作用是运输各地粮帛进京。为了发挥这一功能，唐后期对漕运制度作了一次重大改革。唐前期，南方租调由当地富户负责，沿江水、沿运河直送洛口，然后政府再由洛口转输入京。这种漕运制度，由于富户多方设法逃避，沿途无必要的保护，再加上每一舟船很难适应江、汴(泛指运河)河的不同水情，因此问题很多。如运期长，从扬州到洛口，历时长达九个月。又如事故多、损耗大，每年有大批舟船沉没，粮食损失高达20%左右，等等。安史之乱后，这些问题更为突出。于是，广德元年(公元763年)开始，刘晏对漕运制度进行改革，用分段运输代替直运。规定：江船不入汴，江船之运积扬州；汴船不入河，汴船之运积河阴(郑州市西北)；河船不入渭，河船之运积渭口；渭船之运入太仓。承运工作也雇专人承担，并组织起来，10船为一纲，沿途派兵护送等。分段运送，效率大大提高，自扬州至长安40天可达，损耗也大幅度下降。

　　除漕运租、调外，大运河还大大促进了沿线许多商业城市的繁荣。如扬楚运河(即隋朝的山阳渎)南端的扬州和北端的楚州(治所在山阳县，今为淮安市)，汴河上的汴州(今开封市)和宋州(今商丘市)，永济渠上的涿郡等。扬州因为位于扬楚运河与长江的会合处，公私舟船，南来北往，都要经过这里，是南北商人的集中地，南北百货的集散处。它“十里长街井市连”，在全国州一级的城市中，位列第一，超过成都和广州，人称“扬一益二”。汴州位于汴河北段，经过济水，东通齐鲁；经永济渠，北联幽冀；经黄河，可达秦晋，迅速发展成为黄河中下游的大都会。后来，梁、晋、汉、周、北宋五代都建都于此，其主要原因，就是因为它是一个水运方便的繁华城市。