因万户侯张瑄得名 潞河河道人工疏浚，有据可考是从金朝肇始。当时萧太后运粮河上游河道（北京至通州段）早已淤塞，漕船只能在张家湾卸船改陆路转输，其艰难困苦状况可想而知。
由此，开辟通州至中都（金朝北京名）的水路漕运又被提上了议事日程。萧太后运粮河淤塞，水源也不够充足，重新疏浚工程量巨大。权衡之下，金人选择了流经通州城北的另一条河道——高梁河东支，原是为灌溉大片田地而开凿。
如此，张家湾在北运河上的漕运枢纽地位似乎被通州取代了。但实则不然，因张家湾拥有四河交汇的地理优势，河口位置可以人为选择，潞河河道支持漕运的水量却难以改变。且张家湾南邻大片水泊夏谦泽和延芳淀，不仅可以调节下游河道的水量，还是漕运船只停泊的天然港湾。所以当时张家湾仍然是北运河漕运的重要枢纽之一。
今张家湾附近土桥、大高力庄、牌楼营等村，都发现有面积不等的汉墓，里二泗村南更发现达36万平方米的大型汉墓群，足以说明这一地区起码在汉代就有人类在繁衍。当地老人介绍说，漕运开始后，附近村民看准商机，在河岸两边建房设店，形成规模，渐成村落，大家遂把当时的张家湾地区称为长店。
元朝在北京立都之初，大都因蝗灾急需从江南调运大量粮食，《元史》记载，至元十六年（1279年），海盗出身的万户侯张瑄等自东南“造平底船六十只，运米四万六千石，从海道至京师”。海运漕粮到天津海口，沿辽时运河故道向大都转输漕粮，但船到长店再也无法上行，一来里河失浚，再者水量不足，所以漕船只能在长店泊岸，漕粮改由陆路向大都转运。
当年张瑄手握海运重权，为了向元朝统治者表明忠心，曾经将族属迁到长店，并在长店设立海运船队总部，使长店成为重要的码头和物资集散地。正是因为张瑄，此地开始被称为张家湾。
筑城花了三万两 或者因为张瑄的这次救急太有名了，或者因为这一次的场面特别壮观，人们从此只知张家湾而不记其前了。
元朝以大都（今北京）作为国都，对北京城的建设是划时代的，北京作为全中国的首都从这时开始。北京历来有“漂来的城市”之说，这一说法并不夸张，元朝在北京立都之初，大量的建材和物资都要从南方调运，当时所有货物都只能在张家湾上岸，所以通州还有“先有张家湾，后有北京城”一说。
元大都作为皇朝首都，漕运问题必须得到根本性解决，开凿贯通南北的京杭大运河势在必行。元至元十八年（1281年）从开凿山东济州河开始，到元至元三十年（1293年）开通自北京到通州张家湾的通惠河，元代京杭大运河全线通航，漕船可由杭州直达元大都，张家湾在北运河上的漕运枢纽地位愈加突出。
元末明初又一次改朝换代，北运河里河（通惠河）再一次淤塞停用，张家湾在北运河上的漕运枢纽地位却愈加显赫。明朝开国之初定都南京，时间耽搁了数十年，明成祖朱棣迁都北京后，又掣肘于既得利益官僚的阻挠，京杭大运河通州到北京的里河漕运，一直没有得到恢复和重启，张家湾就成为漕运的北端。由于古代水路运输比之陆路更加重要和不可替代，张家湾的繁华甚至超过了在它上游作为州治的通州城。
史地民俗专家王永斌在他的《历史上的京畿码头——张家湾》一文中描述：“官船客舫，骈集于此，弦唱相闻，最称繁盛。”明代两位著名作家冯梦龙和凌蒙初合著《三言两拍》，其中也有多篇故事背景涉及张家湾，诗称“张湾千载运河头，古垒临漕胜迹稠”，大体上说明了张家湾当时的繁荣景象。
明嘉靖七年（1528年）巡漕御史吴仲重浚通惠河，将元代通惠河普济闸以下河道改由通州城北入潞，张家湾作为北运河漕运北端的地位才被改变。北运河漕运北端码头移至通州城东北，用意仍是水陆运输两者兼顾，但张家湾作为北运河上的漕运枢纽地位仍然没有动摇，这种状况直到张家湾上游运河改道。
明朝中期国力渐弱，塞外蒙古各部却死灰复燃，多次突破长城入袭中原，明英宗“土木堡之变”后，明朝已对北方民族转入守势。嘉靖二十九年（1550年）十万蒙古骑兵再次突破古北口长城，兵锋指向通州一带，当时通州已有城池，张家湾却没有城池可守，于是蒙古骑兵避开通州城绕道河东一线扑向张家湾。张家湾建有通济仓，此时正有大量屯粮，如果这里被蒙古骑兵占领，存粮为之劫夺，敌兵获得粮饷补充，北京城的危险就更大了。幸得“都御史王竱驰至通州，收艚舟舣潞河西，勿使为寇用。寇屯河东二十里孤山、洳口诸处，阻水不得渡”（《读史方舆纪要》），张家湾的粮仓才算保住了。
《明史》记载：此次惊险过后，王竱给嘉靖皇帝上书，建议在张家湾建造城池以保此处粮仓不失，时任顺天府尹的刘畿，也上书称在张家湾“建城便于保卫，利于固守”，要求在张家湾筑城。皇帝连接两道上书，也意识到了问题的严重性，决定抢筑张家湾城以保这里的粮仓，诏令顺天府丞郭汝霖、通判欧阳昱负责工程建设。建筑材料不够就四处搜罗，经费不足就自己带头从伙食费里捐款，抢筑张家湾城拆毁了前朝通惠河废弃的河口石闸，还用掉了嘉靖皇帝三万两的伙食费。
张家湾城建成时间是嘉靖三十一年（1552 年），落成后周长约3公里，城墙高6米，厚3米有余，虽比不上通州城规模宏大，也算得上是一座比较坚固的城池了。为保卫城池，明朝委派守备一员、驻防营兵500人。