经过一系列的精心准备，武装收复雅克萨的条件已经成熟。雅克萨位于黑龙江上游，地理位置十分重要，想要从俄罗斯本土进入黑龙江，雅克萨是必经之地。在沙俄的苦心经营下，雅克萨成为其在黑龙江上游的重要据点。康熙二十二年（1683）七月初，清黑龙江将军率军千余人向黑龙江挺进，却在精奇里江口遇到了从雅克萨而来的一小股沙俄侵略军，萨布素迅速命令清军将其包围，并消灭之，俄军或死或降，全军覆没。康熙知道后，非常高兴，当即下令乘胜追击，以肃清黑龙江中下游地区的俄国侵略者。此役也大大激发了当地各少数民族与俄军斗争的勇气，一时间，俄军在黑龙江中下游四面交兵，连连大败。经过一系列战役，黑龙江中下游及其支流上的沙俄据点已基本上被肃清，雅克萨已成孤城。
康熙一直希望和平解决争端，认为兵非善事，不到万不得已，康熙并不愿意诉诸武力。就在清军在黑龙江取得大胜的前后，康熙还两次下令理藩院照会俄国政府，仍进行着最后的和平努力，希望俄方停止挑衅行为，归还我逃人根特木尔，否则，必以大兵征伐。但沙俄对清朝政府的多次劝阻、警告依然无动于衷。沙皇米哈伊洛维奇还从西伯里亚抽调了一千多名侵略军增援雅克萨，并指派托尔布津为雅克萨的统领，并加快了霸占雅克萨的步伐，妄图将雅克萨地区从中国的版图中割裂出去。
形势变得越来越严峻，看来战争是无法避免的。康熙于二十四年（1685）正月，终于下定决心，决定武力收复雅克萨，并提出了详细的计划。为了加强此战的指挥力量，团结诸将，康熙还组建了新的前敌指挥机构。他任命经验丰富的都统公彭春统兵，又派副都统班达尔善、护军统领佟宝、副统领马喇及銮仪使、侯、林兴珠等参赞军务，并将黑龙江将军印务交由彭春掌管。前期的军事准备工作就绪后，为了知己知彼，康熙还特命达斡尔人倍勒尔前往雅克萨侦察敌情，以了解雅克萨兵力部署、城防工事等情况，命其详细地回报。三月初，康熙得到消息，雅克萨的守兵不满千人。攻取雅克萨的时机终于来到。
康熙二十四年（1685）四月二十八日，康熙命令都统公彭春等率领由满、蒙、汉、索伦、达斡尔、鄂伦春等各族组成的大军3000人，水陆两路齐发，进逼雅克萨。五月二十二日，清军集结完毕，准备攻城。此时，康熙仍本着先礼后兵的原则，用满、俄、拉丁三种文字分别写了一封态度强硬的书信，交给沙俄的雅克萨统领，在信中，康熙令其马上撤出雅克萨，退回俄国本土，并提出可以雅库次克为界的议和方案。但城中的侵略军自持城坚炮固，拒不从命。
可以说，清廷对沙俄可谓是仁至义尽，于是，康熙命清军分水陆两路列营，包围雅克萨城。沙俄得知消息后，赶紧从尼布楚派来援军，但在半路被清军击溃。清军又将神威将军等火器部署至阵地前，准备对雅克萨发起强攻。
二十五日黎明，清军收复雅克萨的战斗终于打响。清军四面合围，炮火齐发，对雅克萨发起猛攻，俄军据城而守，却损失惨重，死伤无数。随后，清军在城墙下三面堆积干柴，准备火烧雅克萨城，俄军头目眼见如果继续负隅顽抗，就有被全歼的危险，不得不向清军乞降，要求在保留武装的前提下离开雅克萨，并发誓绝不再来雅克萨。于是，被俄军侵占20年之久的雅克萨，终于重归大清。得知前线传来的喜讯，康熙帝异常高兴。为了表示清朝政府的宽大怀柔之意，康熙下令释放被俘人员。
但是，收复雅克萨之后，清军只是将沙俄强建的城池焚毁了事，却没有按照康熙的指示在雅克萨设立驻防，连斥候也没有设。更为严重的是，雅克萨周围的庄稼也未割取，哨所未立，彭春等人便自作主张，不等朝廷的旨意到达就擅自撤离，回到了后方基地。这显然犯了一个非常重大的错误，给沙俄侵略者卷土重来提供了便利。
且说俄军头目托尔布津领着残兵败将退回到尼布楚后，正在懊恼之际，刚巧援军赶到，这给了托布尔津很大的信心。随后他便得知清军撤离雅克萨的消息，托布尔津便马上率领原班人马及增援人员，重新回到雅克萨。重新筑城，挖掘壕沟，建设炮垒、粮库，要塞在一个经验丰富的德国军事技师的监督下进行施工，非常坚固。俄军准备长期固守，并又派出部队袭扰周边地区，给这一地区的安定带来极大的麻烦。
