刘邦与项羽楚汉相争，在虎牢关这儿爆发了有名的成皋之战，双方兵戈相持多时，虎牢关几度易手。最终刘邦战胜了项羽，建立了汉朝，在成皋设置县治，派遣重兵驻守虎牢关。象棋棋盘上的所谓楚河汉界，就在虎牢关附近。
晋惠帝不理朝政，各王争权，最终导致爆发八王之乱。身处战略要地的虎牢关成为各王争夺的对象，在这儿发生的战事竟然高达八十余次。
隋朝末年群雄并起，窦建德率领三十万大军占据荥阳，派重兵把守虎牢关。李渊起兵称帝后，为了削平夏王窦建德和郑王王世充势力，派二儿子秦王李世民出战。李世民带领他那帮弟兄开到虎牢关，与窦建德和王世充联军打了一年多，最终打败窦、王联军，攻破虎牢关，生擒了窦建德，从而打开进入中原的通道。唐军拿下虎牢关后，李渊在虎牢关设治所，管辖荥阳、汜水、密县、成皋等地，为唐朝统一中国奠定了北方基础。
虎牢关作为名隘险关，不仅招来硝烟战火，也引得无数文人墨客对它关爱有加，争相吟诵，留下无数精美诗篇。宋代司马光与王安石是政敌，两人政见不同，斗得你死我活，但是，在赞美虎牢关这一点上却十分一致。
王安石在《书汜水关石壁》诗中写道：“汜水鸿沟楚汉间，跳兵走马百重山。如何咫尺商於地，便有园公倚季闲。”
司马光则在《虎牢关》诗中写道：“天险限西东，难名造化功。路遥三晋会，势压两河雄。除雪沾枯草，警飚卷迷蓬。徒观争战地，今古索然空。”
虎牢关之所以能够在老百姓心中扎下根，《三国演义》的作者罗贯中老先生功不可灭。他讲的刘备、关羽、张飞三英战吕布，关二爷温酒斩华雄等脍炙人口的精彩故事，就发生在虎牢关前。
其实历史上斩华雄的不是关二爷，而是孙权的哥哥孙坚，刘、关、张也没有合伙斗吕布，倒是孙坚的部将程普、韩当、黄盖三位英雄合伙斗过华雄。罗贯中老先生为了塑造曹操一代枭雄的形象，突出关二爷的智勇双全、忠义神武，不惜移花接木，将真实历史给篡改了。不过，不管怎么说，罗贯中老先生这一艺术创作，让人们牢牢地记住了“虎牢关”这个战略关隘，也是好事一桩。
虎牢关是中原与关中的一把钥匙，如此重要的关隘金人当然心知肚明。金人欲取陕西，得先夺取虎牢关，岳飞所部要镇守住西京洛阳，自然也得夺取与守住虎牢关。
建炎二年(1128年)，金军元帅金兀术亲自领兵攻打虎牢关，守关宋军将士拼死抵抗。
金兀术的运气真不好，正当他到达虎牢关之际，奉宗泽遗命外出侦察的岳飞，恰好赶到虎牢关。
金兀术一路没有遇见过宋军，哪料到眼见得就要到达虎牢关，却遭遇一队宋军，而这支宋军的领头人就是后来打得金兀术哀叹“撼山易，撼岳家军难”的岳飞。当真是不是冤家不聚头，宋金两军刚一打照面，双方便混战起来。
岳飞手持沥泉枪，专挑骑马的军官下手。张宪、王贵、汤怀也不含糊，个个犹如猛虎下山，金兵只要碰着他们，非死即伤，吓得连连后退。
眼见天色已晚，双方这才各自安营扎寨，埋锅造饭，准备第二天决战。金军占着人多，将虎牢关围的水泄不通，岳飞进不了关，也只得在关外扎寨安营。
岳飞身边只有五百兵马，金军兵力是宋军的十几倍，敌强我弱，双方兵力十分悬殊。怎么办？是打？还是撤？
“大哥，怎么办？”张宪、王贵、汤怀唯岳飞的马首是瞻，几双眼睛齐刷刷地望着岳飞，等着他拿主意，做决定。
身经百战的岳飞不是吃素的，自然不会退却。敌众我寡，不能逞匹夫之勇硬拼，那样，不仅不能取胜，反而有可能会导致全军覆灭。要想战胜面前这股强大的金军，解除虎牢关守军之危，就必须用计谋巧打。
岳飞看着眼前生死相依的众兄弟，说道：“刚才打了个遭遇战，我们已经折了一些人马，五百人马只剩四百多。我们这么点人马肯定不能硬拼。退回去更不可能，金军会兜着我们的屁股追着打，也不能解坚守虎牢关兄弟之围。再说我们是奉命来守卫河南府的，还没有到河南府就撤回去，说得过去吗？”
张宪说道：“撤退肯定不行，咱们现在回去就是临阵逃跑，是要治罪的。弄得不好，脖子上架着的家伙就吃不了饭了。”
王贵接嘴道：“回去是死，到头来还落了个贪生怕死的臭名。与其那样窝窝囊囊去死，不如跟金人拼了！拼他个鱼死网破！杀一个够本，杀两个赚一个。”
岳飞摇头说道：“你这是馊主意，行不通！说实话，凭咱们的本事，拼个鱼死网破，临死再拉几个金人垫底倒是痛快。兄弟们，咱们是奉宗帅的命令来守卫皇陵，守卫西京的，宗帅交给我们的任务不能不完成。你们想过没有？假如我们都战死了，保卫皇陵和西京的重任谁去完成啊？”
汤怀急了，说道：“大哥，宗帅对你有知遇之恩，对我们也不薄，你说吧，怎么做才能既能打败这班金兵，又能活着完成宗帅交给我们的任务？”
岳飞拍着汤怀的肩膀，说道：“兵法说：兵不厌诈。兄弟们，刚才金兀术虽然看到我们的兵力，但是，他并不知道我们还有没有后续部队，或许他还以为咱们是先头部队呢。咱们设下埋伏，打他个措手不及，一定能打败他。而且咱们这一打，关里的兄弟们也会乘机杀出来，里应外合，两面夹击金军，它还能不败吗？”
张宪、王贵、汤怀异口同声地说道：“五哥，好计策啊！”
岳飞命令王贵带人悄悄地在敌我双方中间处的竹芦渡暗中收集柴草，设下埋伏。天黑以后，岳飞与张宪、汤怀各带一小队精兵，在汜水河边不同地段佯装作渡河的样子，吸引金军来攻。
白天交战的时候，金兀术看到岳飞的兵力并不多，如今见岳飞竟然不自量力，还想乘黑夜渡汜水，真是欺人太甚·金兀术不由得勃然大怒，立即指挥金兵大队人马追杀过来。岳飞、张宪、汤怀见金军追来，且战且退，将金兵引进埋伏圈。
大队金兵刚渡过汜水，忽然一声锣响，整个竹芦渡燃起熊熊大火，火光中王贵带领埋伏的大队宋军呐喊着杀出，岳飞、张宪、汤怀引兵杀了一个回马枪。一时间杀声四起，地动山摇，金军不知道到底有多少宋军杀来，吓得魂飞魄散，毫无斗志，抱头鼠窜。虎牢关关内宋军果然趁势杀出，金军被宋军两面夹击，更是惊慌失措，哪里还有心情打仗，纷纷落荒逃命。岳飞乘机指挥宋军掩杀过去，打的金兀术大败而逃。
这就是有名的竹芦渡之战，这一仗不仅让竹芦渡青史留名，也让岳飞驻军的营地留下“岳阵图”之名，连岳飞的对手金兀术驻兵的地方老百姓也没有忘记，称作“兀术沟”。
建炎二年(1128年)四月，金军没能实现预定的战略目的，天气开始炎热，不习惯炎热天气的金军只得撤退，东京的危机暂时解除。
按照宗泽的部署，王彦的八字军移驻滑州，恰巧五马山的首领马扩带着信王赵榛的亲笔信来到东京留守司。宗泽与王彦、马扩一道商议北伐事宜，制定作战计划。
截止这年六月，宗泽共上恢复大计的奏章二十四道，不过始终没有取得赵构的支持。年近古稀的宗泽再也支持不住这样的打击，背上的箭疮发作，于七月初一含恨离世。