1925年3月12日，孙中山在北京病逝。5月举行安殡时，正在欧洲考察的徐树铮用电报发回挽联：百年之政，孰若民先，曷居乎一言而兴，一言而丧；十稔以还，使无公在，正不知几人称帝，几人称王。
此联上句典出《论语·子路》，下句典出曹操《让县自明本志令》，高度凝练地概括了孙中山一生的主要历史功绩。
这副对联的上联说明治国之道无他，只要掌握一个“民”字。所以中山先生创造的主义，称为“三‘民’主义”；所建立的党称为“国‘民’党”；所建立的政府称为“国‘民’政府”；所建立的军队称为“国‘民’革命军”。徐氏说：“一言足以兴邦，一言足以丧邦。”这所谓一言者就是一个“民”字。也即所谓“得民者昌，失民者亡”的意思。下联是称赞中山先生的伟大，就是一个“天下为公”的“公”字，中山先生真正做到了“大公无私”。民国初年他为了国家安定，毅然决然将大总统的职位让给袁世凯，期待袁氏也能做到大公无私。可袁世凯却背叛民主，私心称帝；中山先生又毅然决然“讨袁”，因此使得天下人不敢再有称帝称王的。
当时举国偃旗，万民哀悼，称颂中山先生的联很多，致挽联者文豪巨擘不乏其人。但徐树铮此联被推为众挽联之冠。不少人对此评论：“徐氏之联，用典精辟，含义深刻，可谓之头筹！”由此可见徐树铮之才气超人，文采盖世。
黄埔军人出身的资深报人周游先生曾这样记载：“中山先生之丧，全民哀悼，举国偃旗，挽词之多，莫可纪极，而当时竟共推徐氏此联为第一。余曾分别询诸李协和、胡展堂、汪精卫、张溥泉诸先生：‘何以国民党内文人学者盛极一时，而竟无一联能道出孙先生心事，以堪与徐氏抗衡者？’所得答复，虽各不相同，但一致认定，徐之才气，横揽一世，远不可及。”
徐树铮，字又铮、幼铮，号铁栅，自号则林，人称“小扇子”、“北洋小诸葛”。江苏萧县（现安徽省萧县）人，自幼聪颖过人，7岁能诗，13岁中秀才，17岁补廪生，有神童之称。
1901年，徐树铮弃文从武，到济南上书山东巡抚袁世凯，向其陈述经武之道，未得赏识后，闷闷不乐地回到投宿的客店。正好段祺瑞路过此处，段祺瑞其时是袁世凯的武卫右军炮队统带兼随营武备学堂总办。据段祺瑞回忆：“至旅店拜客，过厅堂，见一少年正写楹联，字颇苍劲有力。时已冬寒，尚御夹袍，而气宇轩昂，毫无寒酸气象……约与长谈，深相契，遂延揽焉。”
于是走投无路的徐树铮被延揽为用，追随段祺瑞的左右。1905年，段祺瑞又出资送徐树铮去日本士官学校学习军事。五年之后，三十一岁的徐树铮回国，在段祺瑞的部队任清朝第六镇军事参议，1911年任第一军总参谋。颇富文韬武略的他纵横捭阖，大展身手，为段祺瑞叱咤民国政坛立下累累功勋。为报知遇之恩，他忠心耿耿从无异念，从此一生效忠段祺瑞。徐树铮风流自赏，豪气干云，曾赋诗曰：“购我头颅十万金，真能忌我亦知音。”张学良对其敬佩有加，称其为“上马杀贼，下马露布”之豪士。
辛亥革命爆发后，风雨飘摇的清廷已经感到了末日来临，大厦将倾，政权随时可能易手的痛苦时时向执政者袭来，朝廷上下弥漫着一片愁云惨雾。但清政府中铁良、良弼等少壮派不甘心拱手交出江山，主张硬拼到底，宁为玉碎不为瓦全。如此，则革命军虽仍能获得最后胜利，但不知还要死多少人。此时，以段祺瑞为首的42名清军前方将领突然发出通电，吁请清帝退位，实行共和政体，这顿时使清廷失去了继续挣扎的勇气。1912年2月12日，清帝被迫发表退位诏。而那一篇通电，便是出自徐树铮的手笔。
1912年至1914年，徐树铮先后任中华民国军学司司长、军马司司长、将军府事务厅长等职。1914年5月，徐树铮任中华民国陆军部次长，年仅34岁，为次长中最年轻者。袁世凯称帝时，徐树铮因其劝段祺瑞抵制，遭袁世凯罢免官职，于是赋闲在家静观其变。
1916年，因称帝而众叛亲离的袁世凯死后，黎元洪继任大总统，段祺瑞为国务院总理，徐树铮复任陆军次长兼国务院秘书长。在以黎元洪为首的总统府集团与以段祺瑞为首的国务院集团之间争权夺利的府院之争中，黎元洪瞅准时机在这时下令撤销了段祺瑞的总理职务，段祺瑞愤然离京去津，作为其铁杆追随者的徐树铮也被黎元洪革职。1917年，徐树铮协助段祺瑞策动了张勋赶走黎元洪的“张勋复辟”事件。事后又策划了讨伐张勋的“讨逆军”行动，讨逆成功后，徐树铮又任陆军总次长，再次回到了权力的舞台。段祺瑞当时被推崇为“三造共和”的英雄。殊不知在这其中，件件事都少不了徐树铮的谋划和参与。
冯国璋任总统后，与国务总理段祺瑞在西南军阀及广东护法军政府的政策上，产生了矛盾。段祺瑞主张“武力统一”，借此扩充皖系势力；冯国璋主张“和平混一”，借此讨好西南军阀，保护直系的利益。于是，又出现了第二次府院之争。徐树铮也主张武力统一中国，坚定地站在段祺瑞这一边。
第二次府院之争中，段祺瑞被迫辞职。冯国璋下令准免，先以外交总长汪大燮代理国务总理，后又请出王士珍署理国务总理兼陆军总长。徐树铮幕后策划督军团对冯国璋施加压力，策动张作霖入关抢夺军火，迫使冯国璋再度起用段祺瑞组阁。
于是段祺瑞复任总理兼陆军总长，徐树铮任陆军次长兼西北筹边使，升为上将。在冯段之争中，徐树铮为段祺瑞穿梭奔波。他一方面假借参加第一次世界大战为名，向日借得巨款，编“参战军”，为段扩兵争雄；一方面组织“安福俱乐部”，包办选举，成立安福国会，以巩固段祺瑞之政权，为段祺瑞的执政立下了汗马功劳。徐树铮当时是段祺瑞手下的第一红人，是其最信赖的智囊和得力助手，段祺瑞也对徐树铮百般袒护和支持，使其在民国前期的政坛上呼风唤雨，气焰张天。
1918年6月15日，徐树铮在天津暗杀冯玉祥的恩师兼老长官陆建章。关于杀陆建章的原因，从徐树铮向政府的报告中可看出一些端倪：“迭据本军各将领先后面陈：屡有自称陆将军名建章者，诡秘勾结，出言煽惑等情。历经树铮剀切指示，勿为所动。昨前两日，该员又复面访本军驻津司令部各处人员，肆意簧鼓，摇惑军心……树铮窃念该员勾煽军队，联结土匪，扰害鲁皖陕豫诸省秩序，久有所闻，今竟公然大言，颠倒播弄，宁倾覆国家而不悟，殊属军中蟊贼，不早清除，必贻后戚。当令就地枪决，冀为国家去一害群之马，免滋隐患。除将该员尸身验明棺殓，妥予掩埋，听候该家属领葬外，谨此陈报，请予褫夺该员军职，用昭法典。”
他万没想到，此举为自己日后遭遇不测埋下了祸根。
1919年，徐树铮任西北筹边使兼西北边防军总司令。同年10月，率兵进入外蒙古，迫使外蒙古在1919年11月17日正式取消自治，回归中国。
英雄本是诗人，边功催生诗情。收复外蒙后，徐树铮在库仑写下的一首《念奴娇·笳》以表心迹，诗云：“砉然长啸带边气，孤奏荒茫无拍。坐起徘徊，声过处，愁数南冠晨夕。夜月吹寒，疏风破晓，断梦休重觅。雄鸡遥动此时天下将白。遥想中夜哀歌，唾壶敲缺，剩怨填胸臆。空外流音，才睡浓，胡遽乌乌惊逼。商妇琵琶，阳陶觱篥，万感真横集。琱戈推枕，问君今日何日？”
徐树铮在外蒙古还做了许多有益于当地发展的事，如引种蔬菜、修建公路、开办银行、创刊日报、加强中华文化教育等。
收复外蒙后回北京述职时，徐树铮不但向大总统汇报，还向在上海的孙中山先生去电汇报。孙中山收到来电后异常喜悦，立即不顾国民党内某些人的反对，回电对徐树铮收复外蒙予以很高的评价，言其可与傅介子、班超相比。[孙中山复电原文：比得来电，谂知外蒙回心内向。吾国久无班超傅介子其人，执事（指徐树铮）于旬日间建此奇功，以方古人，未知孰愈？外蒙纠纷，亦既七年，一旦归复，重见五族共和之盛，此宜举国欢欣鼓舞者也！]
北洋军阀间的钩心斗角与明争暗斗从未停歇。1920年，直皖两系军阀斗争激烈，徐树铮被免职，任远威将军，留北京代职。直皖战争后，段祺瑞下台，徐树铮又被指控为“十大祸首”之最而遭通缉拿办，借日本使馆之助逃到天津，后潜入上海英租界内匿居躲过此劫。
1921年，孙中山以非常大总统名义在桂林组织大本营，计划北伐征讨直系军阀。此时直奉两系矛盾日趋尖锐，孙中山联合段祺瑞、张作霖组成三角同盟。徐树铮代表段祺瑞于次年初赴桂林与孙中山晤谈，主张张作霖、段祺瑞、孙中山三方联合成立全国政权，反对直系军阀政府。1922年1月，徐树铮代表段祺瑞前往桂林拜会孙中山，商谈孙、段、张三方联合，共同对付直系一事。行期定下来之后，孙中山曾写信给蒋介石说：“徐君此来，慰我多年渴望。”二人见面后晤谈融洽，徐树铮对孙中山十分倾倒，孙中山对徐树铮也非常赏识，甚至希望他能留下来做自己的参谋长。但徐树铮是段祺瑞的死党，自然是不会离开段祺瑞的，他委婉地回绝：“我在北方帮助孙先生，会比在孙先生身边帮助更大。”
1924年9月，盘踞在江苏的直系军阀齐燮元为夺取被浙江皖系军阀卢永祥控制的上海，爆发了江浙战争。徐树铮任浙沪联军总司令，但这场战争中，皖系败下阵来，徐树铮在租界的寓所里被支持直系军阀的英国人拘捕。并强迫他乘英轮去欧洲。在途经香港时，第二次直奉战争结束，段祺瑞被推为临时执政，徐树铮又获得了自由。
徐树铮后被任命为考察欧美日本各国政治专使，率考察团15人，先后考察法国、英国、瑞士、意大利、德国、苏联、波兰、捷克斯洛伐克、比利时、荷兰、美国、日本12国。在考察法国期间，孙中山在北京逝世，徐树铮电致挽联。徐树铮于1925年12月11日考察结束回到上海，期间与孙传芳会晤，商议直、奉、皖三系联合对抗冯玉祥和准备北伐的革命军事宜。段祺瑞以京津局面混乱电嘱其暂缓赴京，但他认为考察回国，理应复命，19日即动身赴京。复命后，于12月29日晚乘专车离开北京南下，途经京津间廊坊车站，冯玉祥为恩师复仇，让部下张之江派人将其劫持，于30日凌晨将其杀害（1918年6月15日，徐树铮在天津暗杀了冯玉祥的恩师兼老长官陆建章），时年45岁。翌年，归葬故里。
