1924年，江浙战事屡起，上海英租界当局见徐树铮政治活动太过露骨，称徐为不受欢迎的人，遂下逐客令。人海茫茫，竟无存身之所，徐树铮于是挈眷游历欧洲。其间，徐在途中接到报告，知段祺瑞已进京成立执政府，段叫他立刻回程，商议组阁事。徐即复电于段，说他不赞成“执政”的称呼，他愿以“全权特使”的名义，代段氏报聘各国。段祺瑞随即委他为“特命考察欧美各国与日本政治经济全权专使”。
1925年3月，孙中山在北京病逝，5月举行安殡时，正在欧洲考察的徐树铮用电报发回挽联：
百年之政，孰若民先，曷居乎一言而兴，一言而丧；
十稔以还，使无公在，正不知几人称帝，几人称王。
此联上句典出《论语·子路》，下句典出曹操《让县自明本志令》，徐树铮信手拈来，区区三十多字，便概括了孙中山一生的主要历史功绩。据黄埔军人出身的报人、作家周游所记：“中山先生之丧，全民哀悼，举国偃旗，挽词之多，莫可纪极，而当时竟共推徐氏此联为第一。余曾分别询诸李协和、胡展堂、汪精卫、张溥泉诸先生：何以国民党内文人学者盛极一时，而竟无一联能道出孙先生心事，以堪与徐氏抗衡者？所得答复，虽各不相同，但一致认定：徐之才气，横揽一世，远不可及。”
徐树铮酷爱昆曲，能自辑曲谱，能上台演出，他擅长花脸和贴旦两种角色的曲目，声如洪钟。并曾与徐凌云、项馨吾、俞振飞等名角同台。
徐树铮抵英国考察，想起在上海英租界被英人驱逐，今日须找回些颜面。徐素知英国皇家学院享盛誉于国际，经一番联络与宣传，皇家学院以徐为中国国学家身份，请他公开演讲两小时。徐即以《中国古今音乐沿革》为题，应邀赴皇家学院演讲。时朱兆莘为代办公使（代顾维钧），朱在徐开讲之前，致辞说：“这位是国际闻名的小徐，吾人称前总统徐世昌为大徐。”朱氏作如是介绍，四座皆惊，都以为徐必不满意，因在外国只有“黑老大”才用绰号。未料徐接着含笑致辞说：“不错，我叫小徐，此因我国南唐有弟兄二人，驰名江左，号二徐，铉称大徐，锴称小徐。”是日，听讲者约三百余人，其中有研究中国文学与中国礼乐者，对徐氏讲演大加褒誉，徐树铮亦甚为自得。
朱兆莘（1879－1932），字鼎青，广东花县人，17岁考取秀才。1907年赴美留学，1913年被选为参议院议员，被推为参议院外交委员会主席，宪法起草委员会委员。1917年任大总统府秘书。1918年3月，任驻美国旧金山总领事。1920年9月，调任驻英公使馆一等秘书，次年，任驻英使馆代办使事。1925年3月，任驻意大利全权公使。1927年8月任国民政府外交部政务次长。
1925年，正是北京及全国的学生运动频发之际，正在欧洲考察的徐树铮，一直关注着国内的动态。期间他写了《上段执政书》一信给段祺瑞，谈尊崇知识分子问题，内有：为长治久安计，练百万雄兵，不如尊圣兴学，信仰斯文义节之士。
徐树铮在法国考察时，请法国官员吃饭，谦虚的说：“饭菜不好，请各位谅解！”此语一出，饭店老板不悦，对徐说：“您当着这么多名流说我店饭菜不好，我们以后如何做生意？必需道歉，不然就起诉你们。”
小徐无奈，自觉失言，后在当地报社纸登报道歉，风波始告平息。
徐树铮自直皖战争失败之后，韬隐五年，收敛锋芒，到以“全权特使”名义考察列国时期，其观念亦有所改变。徐在法国考察时，冯玉祥在国内数次来电，敦促徐氏返国，就任国务总理，冯说：“虚席以待吾公者久矣。”徐复电谢绝。并对薛观澜说：“我的政治雄心早就没有了，我只想扶起段老总，但愿我们从今以后为国家多多服务，不要再存利己之心。”
徐树铮在官场飞扬跋扈，与下属处却不拘形迹，谈吐时雅时俗。1925年10月，考察欧洲结束后，乘船由法去美。某次晚餐时，徐树铮对属下说：“我有一个上联，只四个字，‘开公事房’，你们谁能对出？”众人皆无以对。徐又说：“你们倒过来读呀。”于是大家都笑。一位名叫朱佛定的团员后来对出“了私情案”，倒读为“案情私了”，徐树铮说对得不错。朱学法律出身，徐又说他“是三句话不离本行”。
1925年春，徐树铮抵苏俄考察。俄方以元首礼节迎徐，并举办盛大宴会，斯大林亲自出席。宴罢已近午夜一时。契切林外长又邀徐至其官舍，畅谈通宵，但话不投机，不欢而散。徐的随员薛观澜记述了两人谈话内容，其中有如下对话：
（契）阁下说中国人没有喜欢共产主义的，这句话我很怀疑，你们鼎鼎大名的基督将军，乃是极端赞成共产的。（徐当场皱眉问薛观澜，谁是基督将军？薛答“冯玉祥”。徐乃怒形于色。）
（徐）喔！那是叛徒，何足挂齿。（叛徒二字，薛翻Insurgent，徐不满意。契切林闻此言，大惊失色。）
（契）这就奇怪了！吴佩孚不是阁下的死敌么？何以反对冯将军？
（徐）吴佩孚不是我的死敌，政见不同而已，但我与吴都是爱国的。我可告诉你，冯玉祥与我私交很好，他所喜欢的是贵国所供给的饷械，待我此番回国，决计不容他胡闹到底的。
1925年11月中旬，徐树铮结束对欧美日的考察回到上海，受到五省联军总司令孙传芳的盛情款待。12月17日，二人同往南通拜访张謇，在张謇家小住了三天。三日中浮觞竟日，畅言国事。19日，徐树铮辞别张謇，经上海乘船至天津转赴北京。
徐树铮与孙传芳至南通访张謇，意欲让张出山。酒宴上，徐昆曲戏瘾大发，正好有上海的昆曲名票搭配，高唱一曲，得意非凡。一曲唱罢，张謇即口占一绝赠徐：“将军高唱大江东，气与梅郎角两雄。识得刚柔离合意，严章休问老村翁。”徐氏心领神会，不再谈要张出山事。
徐树铮返国后急欲进京复命，但段祺瑞来电，坚嘱留沪，暂勿入京。徐未听，于12月22日上午十一时，到北京吉兆胡同执政府。薛观澜有如下记述：“府主已得讯，两厢卫士悉属鹿钟麟之部下，对徐行军礼。徐穿灰色西装，径入段氏签押房，吾随其后，徐见段时，行跪拜礼，段氏亦屈膝，二人互抱，嚎啕大哭，跪地不起，可五分钟，吾甚窘，只能同跪在侧，不禁落泪。徐起，危坐一角，容貌肃然，盖徐对段执政礼甚恭，一向如此。徐呜咽曰：“不见老师，五易寒暑，五年之中，梦寐系之，不料今日得见吾师，一无善状。”段摇首太息曰：‘又铮！我叫你不要来。’盖徐见段，称谓不一，或呼老师，或称督办，则因段氏曾任参战督办也，自始至终，未提“执政”二字。段氏旋询家事，徐一一答之。继问考察日俄二国情形，徐仅三言两语，但云：‘树铮有详细报告，汇呈督办。’”
1925年12月29日，徐树铮乘车返津，经冯玉祥布置由驻廊房张之江部执行对徐的截杀任务。徐的专车快到廊坊时，冯玉祥尚迟疑未决，鹿钟麟说：“小徐一走，从此多事。”冯的决心乃下，并命鹿向张之江转达。张闻听也大为吃惊，说：“此事重大，不宜鲁莽。”鹿说冯意不可违，这是命令。张即派张钺带卫队驰往廊房车站守侯。12月30日凌晨一时，徐树铮在廊坊车站被拉下火车，押往站外枪杀。张之江信奉基督，心肠较软，当时冯部曾有人要把徐的随从一起杀掉，被他力争得免，审讯画押照相之后，全部发路费放行。
徐树铮离京返沪之日，段祺瑞的桌子上出现了一张神秘的纸条：“又铮万不可去，去必死。”段急派人将字条送徐。此时徐氏所乘专列升火待发，而徐素以豪壮自负，对这张字条一笑置之。其左右曾劝徐改乘汽车由公路前往天津，或可避敌耳目。徐以其身系政府大员，举动皆应堂堂正正。于是仍乘火车启程，未料此行果然发生廊房惨剧。
1926年4月20日下午，下野后的北京临时政府执政段祺瑞乘火车出京前往天津。据曾宗鉴笔记：专车开出一小时后，段走进随从人员乘坐的车厢，问车过廊坊停留多久。又问：“又铮（徐树铮）被杀，是在站内还是站外？”及至廊坊，段开窗而望，历十分钟，口唇微动，喃喃若有言，老泪盈眶，掩面入卧。
徐树铮被害次日，张之江部的卫生处长洪某，自称是徐的学生，愿以一门老小作保，两次跪求张之江，请予殓葬。张让他在结帖写上“徐某被陆某复仇所杀”的字样才勉强允其所请。洪某经过一夜苦寻，把弃于雪地里的遗体装殓起来。第三天，又由徐的卫士张振声用骡车运到北京。洪也因此大受张之江抱怨，便辞职而去。后徐的家人寻访此人二十年，未获踪迹。20年后，徐之子徐道邻状告冯玉祥、张之江时，洪某忽然来函，并将手中保存的书面材料相片等寄给徐道邻，以为相助。
张伯英与徐树铮幼时同窗，张是着名书法家，擅鉴赏碑帖，历任北洋政府陆军部秘书，政府副秘书长。张在段祺瑞下台后提出辞职的，时间约在1926年的4月中下旬。选择这个时间，除因徐树铮之死带给他的心灰意冷之外，还表明要与段祺瑞共进退的一种姿态。他是由徐树铮举荐给段祺瑞的，这样做也是对亡友有一个交待。
徐树铮好读书，亦好藏书。他将《古文辞类纂》原有的三种版本进行校对，并收集原来没有的各专注评，重新出版。该书后来被世界书局再版，直至1986年，中国书店还根据世界书局1935年版加以影印发行。徐还校印了桐城派吴汝纶选编的《汉魏六朝百三名家集选》。留有《视者轩遗稿》、《视者轩文》、诗集《兜香阁集》三百首、词集《碧梦词》六十首。为治国安邦，他提出建立军政合一的政权“建国军政制置府”，并据此写成《建国诠真》一书。
据张謇日记载：1925年12月30日晚，他在觉园精舍小酌，时值夜半，身倦神疲，和衣而卧。恍惚之中，见徐树铮立于窗前，神情黯淡，口中念着诗句：与公生别几何时，明暗分途悔已迟。戎马书生终误我，江涛澎湃恨谁知。张謇惊醒，而诗句分明，急忙灯前录出，复诵一遍之后，掷笔叹息：“徐又铮必有事故！”果然两天后报纸送到，徐于廊坊被杀的消息赫然在目。张感慨不已，挥泪填词，把一首《满江红》写给了他的这位小友：
策蹇彭城，看芒砀山川犹昨。数人物，萧曹去后，徐郎应霸。家世不屠樊哙狗，声名曾隽燕昭马。战城南，小怯又何妨，能为下。
将玉帛，观棋暇。听金鼓，横刀咤。趁续完骞传，更编尊雅。反命终申知遇感，履凶不论恩仇价。好男儿，为鬼亦英雄，谁堪假。
徐树铮曾赋诗曰：“购我头颅十万金，真能忌我亦知音。”可谓风流自赏，豪气干云。张学良称徐能“上马杀贼，下马露布。”对其敬佩有加。民国元老萨镇冰认为，此人乃是周公谨一流，才堪顾曲，气度狭隘，而单论外蒙一事，乃真正有利于国家社稷。皖系旧人李思浩晚年感慨：“皖段没有又铮不足以成事，亦不足以败事。”
萨镇冰(1859—1952)，字鼎铭，福建侯官（今福州）人。十八岁赴英国学习海军，清末历任“海圻”舰长、北洋海军提督、海军大臣。1919年起任北洋政府海军总长、福建省长，一度代理国务总理。
民国时曾六任安徽省主席的许汉三评徐树铮：“在当时的军阀、官僚、政客，群以争权夺利、祸国殃民、酒食争逐为能事的时候，徐氏能不脱书生本色，想为社会、为国家做上一点工作，……可谓庸中佼佼。”
张謇挽徐树铮联：
语谶无端，听大江东去歌残，忽然感流不尽英雄血；
边才正亟，叹蒲海西顾事大，从何处更得此龙虎人。
康有为徐树铮挽词：其雄略足以横一世，其霸气足以溢九州，其才兼乎文武，其识通乎新旧；既营内而拓外，翳杜断而房谋；又杨历乎域外，增学识于四洲；其喑呜废千人，其洞视无全牛；其飞动高歌擅昆曲，其妩媚清词追柳周。大盗竟杀猛士兮，天人起邦家殄瘁之愁！假生百年之前，为人龙而寡俦。哀世乱而内争兮，碎明月于九幽。
