林凤祥从浦口登陆时，兵力只有二千多人，沿途招兵，抵达临淮关时，兵力已增加一倍多。四月二十一日下午七点，代理凤阳知府裕恭和知县黄元吉率领乡勇，在北门外九华山与林凤祥交手，寡不敌众，以致败走。林凤祥分兵从小路杀入东门，城内烟火突起，九华山龙兴寺的两股太平军忽向北门奔去，将乡勇冲散，蜂拥而入，凤阳府城当即失守。
林凤祥攻打凤阳府城以后，仍然驻扎在临淮，分兵西进怀远，意图很难判明。此刻距离临淮最近的清廷大员是周天爵。这个老人在举人臧纡青的辅佐下，带领一支人数不多的部队，打算从临淮以北和以西堵御林凤祥。可是吕贤基担心林凤祥北上宿州，留下从河南永城赶来的营兵六七百名，以及从汉中赶来的营兵五百多名，暂时驻扎在宿州以南，令孙家泰带领二千乡勇，协同寿春镇总兵玉山赶赴凤阳。周天爵同意吕贤基的判断，于是改变主意，决定返回宿州。李嘉端令李鸿章率领八百名合肥乡勇开到东关，加上当地的一千五百名练勇，严阵以待。琦善虽从扬州派出了武庆和开隆阿的二千人，但他们和西凌阿所部黑龙江骑兵，以及咸丰从北京派出的托明阿所部，都未抵达凤阳。
前面说过，咸丰希望琦善派出骁将，率领劲旅，追剿太平军北伐部队。琦善奉到谕旨后，与陈金绶和胜保商议，最终决定，由胜保率部从天长、盱眙斜插临淮。咸丰得知胜保离开扬州，令刑部侍郎雷以代替他帮办军务，与琦善、陈金绶督兵克复扬州。
也许是吕贤基和周天爵判断错误，也许是林凤祥和李开芳侦知了官军的部署，他们没有北上宿州，而是决定向西北方挺进。四月三十日，林凤祥从怀远开向蒙城，五月一日抵达蒙城县西北五十里的西阳集，扬言要继续向西北挺进亳州，然后直奔开封。河南巡抚陆应毂闻警，大惊失色，派兵奔赴两省交界处的宋家集，他自己也向前线靠拢。
陆应毂在途中接到报告：太平军于五月四日下午一点抵达亳州，攻破州城，难民纷纷逃出。河南官军陆续赶到商丘的宋家集，陆应毂也向宋家集赶去。亳州与河南交界，此处失守，河南门户已经大开。
林凤祥未在亳州驻留，继续前进。他们离开亳州以后，捻军趁机在此城抢掠。五月六日，林凤祥抵达归德。陆应毂率领的河南官军在宋家集与林凤祥遭遇，交战之后，太平军从小路悄悄推进到归德，攻入府城。陆应毂顾此失彼，连忙带兵奔赴刘家口，林凤祥却已先派一万人进驻该处。陆应毂中途折回到归德城外，攻城一昼夜，伤亡惨重。他原有三千兵力，归德一仗，除伤亡以外，溃散不少，连日收集，只得到几百人，军火器械多半不堪应用。
陆应毂为了不误差事，火速赶到柘城，听说太平军分为两支，一支向北，奔赴刘家口，一支向西，奔赴省城开封。陆应毂派人给省城送去鸡毛信，要求留守官员严为预备。可是他知道开封非常危险，因为城内只有一千多名驻防军，乡勇也只有一千五百名，兵力十分单薄。
北进的太平军在曹河上游抢得几只大船，扑过河岸。这一着威胁到山东的济宁和兖州，连直隶的大名一带也成为他们可能进击的目标。
对于咸丰而言，局势瞬息千变，万分危急。林凤祥北伐部队快速推进，从东向西穿过安徽，正在袭击河南，占了归德以后，又兵分两路，一路直指开封，一路北上渡到曹河以北，兵锋北指。官军的主力集中在金陵战区，屯兵城下，将近三个月，不仅没有收复一座城池，还放跑了敌军的北伐部队。造成不利的既成局面以后，西凌阿等部又不能迅速追击北上的敌军，如今闹得河南的省城频频告急，山东和直隶处处隐藏危机，而北方的官军又已纷纷南下，无力堵截，朝廷几乎无兵可调，无款可筹。这时候，咸丰才意识到惠亲王他们调集重兵对付逆贼的想法是多么正确。
事实已经表明，官军方面，不仅江北大营和江南大营无能，安徽的大员也没能挡住这支人数不多的太平军。当林凤祥从临淮关攻入凤阳时，周天爵不但没有迎头进剿，反而向北折回宿州。当时他若能率部迅速堵截，林凤祥也不至于如此之快地杀到河南。周天爵直到林凤祥袭击亳州之后才带兵追赶。此人算得上一名勇敢的大员，而他一再保举臧纡青的乡勇，说他们可当一面，但仍然将敌军从安徽放跑了。这种局面，不仅咸丰想不通，直到今天，仍然令人费解。
林凤祥离开归德以后，向正西挺进，接连攻破宁陵和雎州，然后折向北进，攻破兰仪县，来到了黄河南岸。河南的黄河口岸都无重兵把守，林凤祥可以很轻松地渡到黄河北岸。
不过，林凤祥没有急于过河，而是试图打下开封。他的先锋部队约二千人西进陈留，于五月十三日向开封进发。
自从林凤祥的北伐部队离开扬州之后，相关的清廷官员都以为这只是太平军二三千人的小股部队，对他们的战斗力估计不足。陆应毂带领几千人跟林凤祥交手之后，转战三天，亲眼见到太平军以几百人为一队，有进无退，又擅长包抄官军后背。他们从亳州抵达开封时，据陆应毂估计，兵力多达数万人。探子提供的情报更加深了陆应毂的印象。他们说，太平军从陈留到开封，横排二三十里。
陆应毂已经知道这支敌军战斗力非同一般，对北京构成很大的威胁。他冒着长敌人志气、灭自己威风之嫌，请求皇上调集重兵防御京畿。他说，沿途官员都说这支部队无足轻重，都是为了粉饰太平，借以推诿责任。如今开封危在旦夕，万一敌军掘河灌城，则人皆鱼鳖。黄河以北渡口太多，只要敌军占了开封，可渡者不止一处，所以河北一定要严密防守，北京也要早做准备，调精兵护卫京师。
陆应毂的提醒震动了北京，京城人心惶惶。咸丰令舒兴阿率领陕甘精兵四五千名驰往河南，令周天爵和胜保火速增援开封。他指望舒兴阿、胜保、周天爵、托明阿及善禄这些精兵强将能够保住河南的省会。为了稳定人心，他命令京城加强戒备，委派御前大臣僧格林沁、步军统领花沙纳、右翼总兵达洪阿、军机大臣穆荫统领旗营，巡防京城。
五月十二日，林凤祥抵达陈留，分兵攻打开封。第二天，河南布政使沈兆沄等人登城眺望，只见太平军从东南方向涌来，在开封东面和南面开炮射击，往来攻扑，行动诡秘。沈兆沄下令用重炮还击，林凤祥的部队颇有伤亡。
林凤祥试探性地攻城，得出的结论是：城头上炮火猛烈，攻城部队很难渡过护城河。他明白，自己的任务是长途奔袭，而非攻坚。如今碰到有备的坚城，他立刻决定放弃攻击，令部队撤到几里之外的繁塔寺驻扎。
朱仙镇和虎牢关
再说开封城内，守城总指挥沈兆沄无法估算攻城敌军的兵力，但城内军民都很惶恐，感到兵力太少，无法守住城池，居民大半出城逃避。陆应毂此时待在南边的陈州一带，与开封断绝了联系。沈兆沄只得硬着头皮指挥死守。他决定首先烧毁城外的房舍，不给太平军留下攻城的前进阵地。
五月十四日黎明，沈兆沄悬赏重金，组成敢死队，缒城而下，携带火弹，焚烧太平军所占的村屋，杀死村内的余敌。下午，太平军的大批骑兵和步兵从东面开来，沈兆沄以为他们要来硬攻了，连忙令守军上城防备。不料太平军在离城几里处绕道而行，只有一些侦察兵到城下探视地形，被守军发现，下城追击，小有斩获。
傍晚时分，太平军向西南行走，在较远的村庄集结。林凤祥与李开芳商议，决定在开封以南四十五里的朱仙镇休整部队，再谋进军之策。这里是传说中岳飞以五百精兵大败金兵铁骑的地方，五方杂处，商贾辐辏，人员复杂，有利于造反武装招兵买马。镇西有一条贾鲁河，与黄河相接，交通非常便利。
林凤祥到了朱仙镇，立即用黄绫写信二封，盖上大印，分别交给两名信差，叫他们分头前往扬州和金陵送信，然后叮嘱道：“如果途中信已丢失，你们一定要转禀东王，我军力争渡过黄河北上，若不成功，便南下打回长沙。”
林凤祥知道已有数路官军前来攻击，担心北渡黄河受阻。他只让部队休整了一天，就挥师北进，于五月十八日抵达开封与郑州之间的中牟，距黄河不过五十里。他另派一支部队向西南挺进，背道而驰，以便牵制官军，保证北伐成功。官军行军缓慢，给他提供了转移的时间。
林凤祥从中牟西进郑州，然后继续西进到黄河之滨的汜水，率领几千人冲入汜水县城。他想通过传说中刘备、关羽、张飞大战吕布的虎牢关北渡黄河，但是由于当地官员已经有备，实行了坚壁清野，他们虽然通过了虎牢关和老犍坡要道，控制了这一地区，却苦于一时找不到足够的船只。林凤祥叫部队在嵩山之内征集物资，一面向老乡打探何处有船。林凤祥得到高人指点，派出一支有力的部队沿黄河向西南推进，抵达巩县。
官军此时在黄河南岸已有一支劲旅赶到。来自西部省份的托明阿，加上西凌阿和善禄所部，为了加快追击进度，将骑兵和步兵分开行军，绥远城骑兵及陕甘骑兵归并黑龙江骑兵，由托明阿和西凌阿率领，走在前面，善禄率领步兵随后接应。
五月二十四日，托明阿的骑兵驰抵荥阳，距巩县约六十里。这时林凤祥已在汜水。托明阿率领骑兵跟追，于第二天赶到汜水县城东，探得城内还有敌军五六百名，托明阿和西凌阿分三路进攻。留守渡口的太平军见官军追到，直奔渡口，企图上船，被官军追杀，眼看就要亡命。太平军忽然杀个回马枪，从东西两座土山内一齐扑下，开火射击。接连三次反攻，都被官军击退。太平军在这一天损失了宝贵的船只十三艘。
这时善禄的步兵赶到，从后面夹攻，小有斩获。五月二十六日，官军骑兵和步兵分路进攻，太平军在渡口上下排列船只抗拒，官军用抬枪和抬炮连环射击，又烧毁船只十几艘。太平军不再抵抗，乘船启航。有些船只顺流东下，有的船只驶往北岸，其余部队向山内撤退，躲入汜水县以西的北土山大沟。太平军充分利用地利设立营垒，岸边停泊着大约一百艘船只。山路崎岖，深沟道狭，不利于骑兵进攻，托明阿等人对此无可奈何，只能通知河南与山东的巡抚在黄河两岸扼要严防，并调兵就近渡到黄河以北堵击。
当留守汜水的太平军牵制着托明阿的部队时，林凤祥率领主力沿黄河向西南行进，来到巩县境内，抢夺洛河的船只，企图从洛河进入黄河，再行北渡。洛河在黄河之南穿过洛阳、偃师、巩县三县境内，本来未设渡口。林凤祥无疑得到了高人指点，突然从这里抢船进入黄河，大大出乎官军意料之外。黄河北岸的官军兵力单薄，河岸遥长，官军若无大批援兵赶到，林凤祥便能顺利地达到目的。北岸官军急调柳园口等处的驻防军，迅速开往温县和孟县的渡口。
然而官军还是晚了一步，从汜水渡河的太平军已于五月二十六日占领了温县。两天后，林凤祥已经从洛河抢到船只北渡，率领主力在北岸登陆。温县距怀庆府只有四十里，太平军可入山西，也可进入直隶。但是林凤祥又出奇兵，从汜水派一支部队东回郑州，于六月三日攻入密县，第二天占领东南面的新郑，接着通过南固，南下许州。
林凤祥的部队一南一北，迫使官军两头施救。他的北进部队摆脱了河南官军的追击。托明阿进入汜水县城，遥望着北岸的太平军军营，只能兴叹而已。林凤祥迅速从温县撤出，向官军兵力空虚的怀庆和卫辉地区推进。他们沿河向东北方急奔，抵达武陟，在司马集遭遇乡勇阻击，决定暂停攻击，进行休整。
古战场上的新英雄
太平军杀入河南境内，左冲右突，官军无力遏截，开封的乡勇却将之挡在城外，只得绕城而走。咸丰接到战报，认为乡勇是阻击敌军必不可少的力量。他再次要求各省加强团练，以开封附近乡民协助官军沿途剿杀贼匪为榜样。
