张浚进入决策层后，首先提出要中兴国家，关键在于关中陕西。陕西军一直是宋军精锐所在，靖康之难中陕西军没能派上用场，现在宋廷彻底放弃进攻西夏，与其议和，以全力对抗金军。知枢密院事张浚出任川陕宣抚处置使，赴秦州（今甘肃天水）主持军政。金军左元帅府娄室部多次进攻陕西，陕西军缺乏统一调度，遭到金、夏两国夹击，应付得非常艰苦。右武大夫、宁州观察使李彦仙驻守陕州（今河南三门峡），是中原进入关中平原的要冲，也是宋朝在关东的最后一座孤城。李彦仙在此坚守三年，有力地打击了金军，为张浚入主陕西留下了充裕的时间。李彦仙本名李孝忠，本是种师中部下，因上书弹劾李纲不懂军事遭到追捕，易名李彦仙逃回陕西，被陕州守将李弥大收在帐下。建炎元年金军进攻陕州，经制使王■不能抵抗，率部逃离，金军占领陕州，石壕尉李彦仙在城外三觜山聚众抵抗。李彦仙道：“我是外地人，并不是来守卫自己的祖坟，你们如果不奋勇抵抗，金人就会把你们的尸体丢在街上！”于是民众无不听从号令。
金军来攻三觜山，李彦仙佯败诱敌，继而伏兵大起，斩首千余级，趁势攻占五十余砦。陕州城内有很多投降的宋人，李彦仙暗中联络这些人，内外夹攻，收复陕州，周围的郡县也纷纷响应。高宗得报高兴地说：“李彦仙再三奏捷，朕高兴得睡不着觉。”任李彦仙为陕州安抚使。李彦仙将家属都迁来陕州，表示要举家与城共存亡。时人无不感念他的忠义，很多义军也愿意接受号令。留在陕西的金将乌鲁撒拔屡遭李彦仙击败，建炎三年年底，娄室亲率大军来攻。李彦仙在山西南部中条山设伏，大败金军，娄室仅以身免。但李彦仙知道娄室还将大举来攻，请张浚立即派兵牵制。果然，娄室让降将折可求率军十万来攻，分成十队，从建炎四年元旦起，每天一队轮流进攻，号称一月必克。李彦仙淡定如常，在城上作乐以示闲暇。金军使出各种招数攻城，被李彦仙一一化解，尤其是将佐宋炎异常神勇，一人便射杀千余敌兵。张浚传檄泾原都统曲端赴援，曲端本是陕西军中威望最高的将领，但却嫉妒李彦仙升官比自己快，拒不出兵，张浚自己从长安出兵却又被金军所阻。
陕州围困逾年，城内粮草耗尽，李彦仙将豆子分给军士们食用，自己只饮豆汁，经过大小二百余战，杀伤无数敌军后终于不支。但娄室爱惜李彦仙的忠义才能，许以河南兵马元帅之职招降，李彦仙斩杀来使。娄室不甘心，又派人喊话：“只要投降，不计前嫌！”李彦仙怒道：“吾宁为宋鬼，安用汝富贵为！”用强弩射死使者。娄室发起总攻，守城士卒已尽，金军攻入城内。李彦仙率众巷战，“矢集身如猬，左臂中刃不断，战愈力。”城内百姓也无不奋力抵抗，虽妇女亦登屋顶掷瓦块击敌。娄室还是爱惜李彦仙，悬赏生擒，结果李彦仙换了衣服逃脱出城。正当李彦仙准备离去时却听说金军开始屠城，恸哭道：“金军之所以屠城，都是因为我坚守不下的原因，我没有面目再活了！”于是投河而死，年仅36岁。麾下数十员将吏全部壮烈殉国，无一人降敌。李彦仙殁后赠彰武军节度使，谥忠烈，后改忠威，立义烈庙。李彦仙在关东尽失的情况下，坚守陕州逾年，拖住了金军西进的步伐，为张浚重整陕西军赢得了时间。而陕州百姓的顽强抵抗也显示了人民的无比英勇，中原人民并非如某些人所说的像绵羊一样任随宰割，而正是因为尽全力抵抗，不能作为奴隶所以才惨遭屠戮。
