虽然打了两次胜仗，岳飞在太行山区还是显得身单力薄了些。他感觉自己已经快到极限了，这时候王彦收到了宗泽的命令，统一指挥两河的军事。这时王彦便派遣人去告诉岳飞，要他去荣河把守，此时的岳飞觉得王彦心胸狭窄，恐怕以后在一块很难共事。因此便拒绝了王彦，随后便南下前往开封府，准备投奔宗泽，接受宗泽的指挥。
这个时候，宗泽已经接管了开封府，成为开封留守。之后就开始整顿防备，规划着光复国土的大事。宗泽本人治军严明，赏罚公平。他一身正气，知人善任。他手下的将士们都很服他，宗泽在军中以及民间有着很高的威信。他能够起用一切可以用来抗金的力量，比如他杀过一个擅自杀人的主将赵世隆，但却重用其弟弟赵世兴，而且不存疑心，所以赵世兴都能对他忠心耿耿。宗泽训练了两河、燕云一带的抗金队伍，还收编一些民间武装、盗匪、残兵。王善、杨进、王再兴、李贵、丁进、马皋、张用、曹成、马友、李宏等民间起义的队伍，听说宗泽出任开封留守后，纷纷率领部下来投靠，很快划归宗泽指挥的队伍接近了百万，而且他们都带来了丰厚的粮草，半年之内的供给都没有了问题。
在岳飞前来投奔宗泽的时候，东京留守司的官员查过岳飞的档案，不看不知道，一看吓一跳！岳飞触犯军规，以罪当斩！他们自然没有去隐瞒，全部告诉了宗泽。爱才的宗泽，怎能忍心杀掉一个将才呢？但他擅自脱离主将，也是不可原谅的，于是便将岳飞降为秉义郎以观后效，这样岳飞又降为从八品。
在建炎元年的十二月份，金军大举南侵，先是进犯孟州的汜水关。岳飞被宗泽任命为踏白使，踏白使就是当时宋朝军队专门刺探情报的人员专门的官职。宗泽给了岳飞五百骑兵，要他前去武装侦察敌人的动向。临走之前，宗泽特意把岳飞叫到面前说：“你本来是死罪，老夫暂时按下，当今就是你立功的大好时机。你一定要给我好好表现！你去观察敌人的动向，不要轻易和敌人冲突！”岳飞领命而去。
岳飞待罪之身奉命前往侦查，在汜水关一带与一支金军碰上了。岳飞只得率队和金军开战。他带着立功赎罪的心，奋勇杀敌，很快把金军打得落花流水。岳飞凯旋后，宗泽很高兴，立即升其为统领，之后又被晋升为统制。
从建炎元年冬到二年（公元1128年）春开始，在东京开封府敌我双方进行了拉锯战，一个地区往往敌我易手好几次，战斗非常激烈。宗泽坐镇东京留守司，统一指挥作战，敌我双方互有攻守，战局成胶着状态。滑州是开封的北方门户，争夺战打得最为激烈。岳飞从正月开始，也参加了滑州的战斗。他接连在胙城县（今河南延津县东北）、卫州汲县西的黑龙潭、龙女庙侧的官桥等处获胜，还活捉了敌人一个姓蒲察的千夫长，在宗泽麾下保持了全胜的纪录。
宗泽很欣赏岳飞的军事才能，经常把岳飞召到自己的住所，讨论军事问题。
在北宋时期，无论是皇帝还是将帅都很喜欢用兵布阵的形式，讲究按照一定的模式摆布阵式，宋太宗赵光义就曾为了与辽作战，亲自绘制了一幅《平戎万能全阵图》以授大将，使其按图布阵。宗泽文官出身，是进士及第，骨子里是一个文人，也就对布阵很感兴趣，当他看到岳飞虽然屡立战功，然而每次作战都不肯遵守兵书，不布阵就出战时，便拿了一份《阵图》给岳飞，并劝告他说：
“你的智勇才艺，是古良将也不过如此的，但是你喜欢野战，这却不合古人兵法。现今你还只是一个偏裨将领，这样做尚无不可，今后如做了大将，这却决非万全之计。我劝你对这本《阵图》中所列举的各种阵式，仔细研究一番，供今后作战时参考。”
岳飞把《阵图》接受下来，认真翻阅了一遍，然后回复宗泽说：
“您所赐的《阵图》，卑职看得很熟了，不过这都是定势，战场上瞬息万变，岂可按照这种固定的阵图来？兵家的要点，在于出奇取胜，让敌人防不胜防。如果在平原旷野上，猝然和敌人相遇，怎能来得及按图布阵呢？况且，我今天是以裨将听命麾下，带兵不多，如按固定阵式摆布，敌人对我军虚实即可一目了然，如以铁骑从四面冲来，那就要全军覆灭了。”
宗泽又质问岳飞说：“照你这么说，难道阵法都没有用吗？”
岳飞回答说：列阵之后再战，这是打战的常用方法，但是不能太拘泥于阵法了，要灵活的运用，都在自己的心里，请您再考虑一下。宗泽沉思了一下，然后向岳飞说：你的话是完全正确的。
通过他们二人这番对话，可以充分说明，当时才二十五、六岁的岳飞，在战争中学习战争，通过几年来的战斗实践，不但在指挥作战方面已经体会出一此极为高明的道理，已经有了敢于突破陈规和传统做法的真知灼见，而且还具有坚强的自信，敢于向上级官员陈述他的见解。这使得像宗泽这样的老将军，都认可他的见解。后来宋孝宗即位之初，追复岳飞少保两镇的制词中，有“岳飞拔之偏裨，骤当方面，智略不专于古法，沉雄殆得于天资”的评论。
这个时候的宗泽已是年过七旬的老人，他念念不忘的是请宋高宗回到汴京主持朝政。他连续上疏二十四次，阐述抗金方略。可是，宋高宗及其周围的黄潜善、汪伯彦等只想着逃跑，对宗泽的奏疏不屑一顾。年事已高的宗泽眼见自己的壮志不能实现，他的报国热忱都变为忧国郁闷。他忧愤成疾，疽发于背，一病不起了。当他知道自己的生命快要终结时，便召集部将们，可能岳飞也在其中，到他身旁，要他们坚持不懈地完成光复国土的历史使命。他还朗诵着杜甫赞颂诸葛亮的“出师未捷身先死，长使英雄泪满襟”的诗句，借以表明自己的心迹。
建炎二年七月初一日，宗泽逝世，他临终前他连声呼叫：“过河！过河！”，然后停止了呼吸。
