三路军全体将士高唱着三路军成立的战歌，在李兆麟指挥下驰骋在龙江北和龙江南一带，依靠山区，对日寇开展平原游击战争。历经40几次大、小战斗，先后袭击和攻克通北县警察署、紫霞宫警察分署和飞机场、老龙门车站、三合屯，李桂芳屯、曹乃修屯、火红鸡警察分署、北兴镇、讷河县城等地，冲破了日寇所谓“黑（河）、北（安）、龙（江）3省会攻计划”。日寇大吹大擂的“五大连池会师”的预谋遭到了可耻的破产。缴获敌人各种轻重武器500多件，歼灭和俘虏敌人750多人，牵制了大量的日伪兵力，在讷河、克山、依安、拜泉等县建立起抗日救国会和党团组织，有力地支援了全国的抗日斗争。
1940年春，三路军缩编为三、六、九、十一等4个支队，继续在北部坚持抗日游击战争。这是抗联战士最艰苦的时期，李兆麟利用一切机会对抗联战士作政治思想工作。同年5月1日，李兆麟在通北山里庆祝“五一”国际劳动节大会上说：“今天正是敌人疯狂不顾一切地向我们进攻、袭击我们的时候，但这是敌人的最后挣扎，是俗语说的‘天刚要放亮，小鬼龇牙’的时候，革命越接近胜利，敌人就越要拼命挣扎，我们要更加艰苦奋斗，胜利已经不远了！”李兆麟坚信胜利一定是我们的，他的坚定的革命意志和无畏的革命精神，感染着每一个抗联战士。
1940年7月，辰清伪森林警察大队长董连科率警察给日寇引路，偷偷地闯进我朝阳山的指挥部。当时仅有教导队40余名战士，打退敌人一天数次的冲锋。在多于我十几倍的日伪军围攻下，三支队政委赵敬夫率部突围护送李兆麟等7名同志，在返回的路上不幸牺牲；其余同志包括北满省委委员张兰生，总指挥部机要秘书兼电台台长崔清林也在砸坏电台后壮烈牺牲。在这次战斗中，打死伪森林警察大队长董连科等许多日伪军，但我方损失也不小。
1940年秋，由王钧、王明贵率三支队去平原开展游击活动，后方只留下李兆麟和年老体弱的战士及女同志照顾十几名伤病员。一场暴雨使河水猛涨，低洼地变成一片汪洋。李兆麟等二十几名同志被困在南北河的东部森林里达50多天。身上干粮吃光后，杀掉战马，连马皮都吃光了，河水仍没退，就拣些野菜、树叶和“大耳朵毛”充饥。男同志饿倒了，女同志坚持爬出去找榛子、蘑菇等食物，谁也不肯往嘴里放，都是带着它爬回来，双手捧着它交给总指挥。李兆麟每次分这些食物时，总是先分给伤病员，然后给年老体弱的战士和女同志，轮到他自己，已经是一点点了。同志们不忍心，就把自己分到的送给他些，但李兆麟坚持不要，说：“你们到外边活动应当多吃点，我在驻地活动少，应当少吃，只要不饿死就行了。”当他自己饿得实在不行了，还忍受着饥饿的痛苦乐观地给大家讲古代伯夷、叔齐兄弟两人，宁愿饿死在首阳山，也不食周粟的故事，鼓励大家克服困难。由于深秋天气渐渐凉了，一些“野物”也找不到了，同志们情绪低落。这时李兆麟鼓励大家说：“我们宁肯饿死，也要忠于祖国，绝不能动摇抗日到底的信念。”还诙谐地说“：同志们！等到打跑了鬼子，我请你们吃饺子，咱们一块到哈尔滨去看京戏。你看怎样？”逗得大家都笑了。他又说：“同志们别丧气，我们就是饿死也没什么了不起的，我们就是饿死也不愧为中华民族的好儿女。我相信，我们的后代不会忘记我们今天的挨饿，是为了他们明天过得更幸福。”听了这一席话，同志们含着激动的泪水，点着头，表示赞同。就在这20多个同志生命危在旦夕的时刻，一个姓蓝的交通员由中苏边界给李兆麟带来重要文件，又带来些炒面和粮食。李兆麟怕同志们一下子吃得过饱会断肠丧命，就亲自监督大家先是喝稀的，然后才慢慢增加进食量。就这样，保住了20多名同志的性命，度过了50多个艰苦卓绝的日日夜夜。
1941年初，在伯力召开东南满、吉东、北满3个省委代表会议，决定统一东北党的组织领导，由周保中、×××、张寿笺（即兆麟将军）组成东北党的临时领导机构，即：“三人团”，领导东北抗联武装斗争。
1941年6月，苏德战争爆发之后，日本关东军司令部加紧增兵东北，兵力达76万，妄图消灭东北抗日联军，配合德国法西斯牵制苏军兵力，疯狂地“围剿”抗联部队，残酷地镇压游击区人民。东北人民的反日斗争受到了严重的挫折。为了保存实力，党组织决定向苏联境内作战略性转移。李兆麟于1941年11月率部队到苏联境内，成立了东北抗日联军教导旅（即八十八旅），周保中任旅长、李兆麟任政治副旅长。1942年8月，成立中共东北党委会时，李兆麟任常委。从此，进入了严格的军事训练和紧张的政治学习。有时还不断派出小分队潜回祖国内地，痛击日本帝国主义侵略者。通过这次训练和学习，部队军事素质和政治觉悟有很大提高，为抗日联军迎接抗日胜利，配合八路军、新四军和苏联红军解放东北奠定了基础。
1945年8月8日，苏联对日宣战，8月9日，毛泽东同志发表《对日寇的最后一战》的动员令。8月11日，朱德总司令发布进军东北反攻日寇的命令：原东北军吕正操、张学思、万毅等部分别向察哈尔、热河、辽宁进发；冀热辽李运昌部向辽宁、吉林进发。于30日攻克山海关，随即经锦州、沈阳开抵辽阳、鞍山、本溪等地。东北抗日联军在周保中、李兆麟、冯仲云等领导下，向黑龙江、吉林进发。3路大军配合苏联红军纵横拼杀，“横扫千军”，击败日本关东军，解放了沦陷14年的东北，终于“夺回我河山”，取得抗日战争的最后胜利。
1945年“九三”胜利后，党中央派大批干部进入东北，9月15日建立了以彭真同志为书记的中共中央东北局。从此中共东北党委会在东北局领导下，开始了为“建立独立、自由与富强的新中国”而斗争的新时期。
东北光复后，李兆麟受党的派遣到滨江省政府任副主席，住着十分简陋的旧房间，连张床都没有。警卫员李桂林要去搞一张床，李兆麟拍着李桂林的肩膀说：“老百姓还没有翻身，咱们要艰苦奋斗啊！来，想想办法看。”李兆麟和警卫员李桂林把两个旧木箱子一并，上边放一个草垫子说：“这不是挺好嘛，打游击的时候，我们哪里睡过这么好的床啊！”同志们看他身上穿的衣服十分陈旧，想搞套新的，也被李兆麟拒绝了。
1945年11月中旬，以陈云同志为书记的中共中央东北局北满分局成立，李兆麟任委员，在陈云同志领导下开展战后恢复生产和对敌斗争等活动。11月22日，苏军驻哈尔滨司令部为履行“中苏友好协定”（因当时苏联同国民党政府有外交关系），让我党退出哈尔滨。苏方要求我党政机关和5000人保安队撤出哈尔滨开展农村工作，留一部分同志在城内从事地下工作。国民党于12月下旬接收了哈尔滨和滨江省政府（后改松江省政府）后，李兆麟即辞去了滨江省副主席职务，以公开的共产党员的身份出任哈尔滨中苏友好协会会长。他非常关心青年人的成长，成为哈尔滨一些青年人的知心朋友。在哈尔滨军医大学毕业典礼时，他曾赠书信一封，信中写道：“同学们，你们现在已毅然踏上了进步的途径……探求真理的大道。……我们决不能以此微微的胜利冲昏自己的头脑，我们要加倍警惕……在斗争中来巩固既成的和平，……取得真正民主和实现我们远大的理想。”李兆麟在中苏友好协会工作期间，正是国共两党重庆谈判后的停战阶段。由于特殊环境下的工作，经常与国民党的上层人物打交道。他时时无情地揭露国民党反动派破坏和平、撕毁停战协议的阴谋，敌人对他又怕又恨。为了谋害他，在中苏友协门前曾发生过国民党特务错杀李兆麟的“李钧事件”。为了李兆麟的安全，同志们经常告诫他要提高警惕，李兆麟却把个人的安危置之度外，坚强地同国民党反动派进行斗争。
1946年3月8日，哈尔滨市第一次庆祝“三八”国际劳动妇女节，在马迭尔饭店召开了庆祝大会。李兆麟为大会题了词：“女同胞们！团结起来为自己的解放而奋斗！”国民党的“省长”关吉玉和“市长”杨绰庵在会上分别讲了与大会无关的“三纲五常”和讥讽东北人民当了14年亡国奴的陈词滥调；李兆麟则代表中共哈尔滨市委热烈祝贺哈尔滨妇女这样大规模地庆祝自己的节日。他从东北沦陷时期祖国人民的悲惨遭遇，讲到中国人民在中国共产党领导下，经过长期抗战的艰苦奋斗，才赢得今天的胜利。他以大量事实揭露国民党反动派假和平真内战的阴谋，号召大家团结起来，为建立新中国而斗争，并振臂领呼口号，博得与会人的热烈掌声。国民党特务更加仇恨，狗急跳墙，加紧策划谋害李兆麟。当天晚上，李兆麟又参加了苏军庆祝“三八”节日活动，回到家里已经很晚。李兆麟有点感冒，他的爱人金伯文同志（中国民航总局离休老干部）给他吃好药后就让他躺下。不一会儿冯仲云同志来了，坐在床边对李兆麟说“：常有你的黑信，说要杀你！你要当心！”李兆麟若无其事地说：“杀我干什么？我值几文钱，抗战这么多年，日本鬼子的枪子儿在我的背包和棉大衣上打了八九个眼儿，也没碰到我的肉……”
3月9日早上，李兆麟对金伯文说，今天跟国民党市长有个约会，请把衣服熨一下。李兆麟抱起振英（卓娅），手拉着振环（阿立克）等着熨衣服。9点多钟穿上熨好了的衣服离开了家。下午4时，敌人来信诡称某要员“有重要事情请李兆麟去水道街九号商谈”。当汽车开到离中苏友好协会不远的地方，车突然坏了，李兆麟让警卫员帮助司机李桂材修车，自己步行到了中苏友协，跟秘书于凯同志说他去水道街九号（此处与中苏友协相隔百米左右），说完就独自去了水道街九号。一进门，就被国民党哈尔滨“市长”杨绰庵的女秘书孙格龄把李兆麟穿着的藏有手枪的大衣脱掉，锁在衣柜里，然后领进似会议室的大房间。李兆麟被骗喝下敌人下有氰化钾的茶水，当即昏倒在地，一群潜伏的刽子手蹿出，趁李兆麟昏迷中将他杀害，周身要害处连刺了几刀。在黎明即将到来的时候，李兆麟用自己的鲜血换来了亿万人民的觉醒，充分暴露了国民党反动派假和平真内战的阴谋。
国民党反动派特务杀害了李兆麟后，还无耻地开动宣传机器编造不少流言蜚语，妄图诋毁这位抗日民族英雄的光辉形象。但日出云散，天网恢恢，随着全国的解放，杀害李兆麟的凶手终于相继被捕法办。
李兆麟将军被害，噩耗传来，广大群众悲痛万分，对国民党反动派的血腥暴行义愤填膺，群情激愤。哈尔滨市举行了十几万人的盛大游行示威。中共中央机关报和东北局机关报发表了社论和报道，揭露国民党反动派的内战阴谋，抗议国民党特务杀害共产党员的恐怖政策，并召开了3天3夜追悼大会。金伯文同志带着不满3岁的振环和不满周岁的振英为李兆麟将军守灵。在送葬那天，有十几万人为之送行。冯仲云等领导同志和抗联老战士怀着悲痛的心情，重温李兆麟生前编写的《露营之歌》。把他安葬在哈尔滨道里松花江畔的一座公园里，命名为兆麟公园，以示纪念。并为他树起一个高大的纪念碑，上面刻有“民族英雄李兆麟将军之墓”，他的亲密战友冯仲云同志为他撰写了碑文。1963年，周总理曾陪同朝鲜贵宾崔庸健委员长向李兆麟之墓献了花圈。
李兆麟将军不朽的英雄业绩，将永远激励炎黄子孙，为振兴中华、捍卫祖国疆土而战斗。
