在解放以前，警察对违警罚款最感兴趣，罚款越多，好处也越多。但抗战期间物价飞涨，法币不断贬值，民不聊生，连靠罚款增加收入的警察官员们也叫苦连天。根据国民政府原来的规定，违警罚款最高额为30元，超过这个数目，警察机关算“违法”。这种罚款数目是抗战前规定的，抗战后法币不断贬值，各省市县的警察机关将这项罚款各自为政变相提高，有的按银元折算，有的罚实物或按实物折价，一直没有一个全国统一的合理规定。
警察部署刚一成立，各省市警察机关纷纷请示，要求制订统一的罚款办法。有些省市的警察局擅自折合银元或按实物折价的罚款办法，又遭到各省市参议会的责难，没法继续行使下去。唐纵对于这个问题的处理只好采取拖延的办法，复文措辞也很含糊，只说正在拟具统一办法中，但直至国民党退居台湾始终没有得到一个很好的解决办法。
唐纵一上台就叫嚷要制订一套统一的警察法规和制度，可是人们能看到的只是制定统一的警察服装。据他说，这是由简入繁，先从仪容着手，慢慢再进一步制订一些有关根本性的条例。
唐纵认为任署长后的得意之作，是举办全国警官登记和制定统一的指纹制度，以及推行警员制与修定警察法规等。但举办全国警官登记的工作搞了两年多，直到国民党退居台湾，始终没有能够全部完成。许多边远省市对这个工作一直拖延未办。
唐纵对统一全国警察机构的指纹工作，曾请过不少所谓“专家”来研究。据说，警察采用指纹登记已实行了一二十年，在个别大城市的警察局里设有主管指纹的单位，由于搞指纹工作的人员，有的学德国，有的又分别学英、美、奥、法、日。都是各搞一套，因此非常混乱。往往在甲地犯过案的人，到乙地再犯案后，警员采取指纹时，因办法不一致，分类归档各有不同，调阅档案时便发生许多困难，不能发挥应有的作用。经过一些专家的研究后，决定采用统一的规定：凡采取两手十指指纹时，一律采用亨利爱德华式；采取单指纹时，一律采用白脱里式。这是因为这两种方式分类简便明显易于推行，过去采取指纹的纸型也很零乱，有的过简，也有的过于繁琐，这时由警察总署统一划定标准格式，分发到各省市警局实行。
唐纵推行警员制度，是为了使警察完全“特务化”。过去各大城市的警察一般都是警士待遇，素质参差不齐。有少数警士是中学程度，绝大部分只是高小初小的文化程度。他认为要这些人担任错综复杂的反共斗争是无法胜任的，唯一办法是提高待遇才可能提高质量。可是警察经费又无法增加，便只好采用裁员增薪的办法来解决这个问题。用两三个警士的钱来养活一个警员。据他说，这是非常合算的事，因为一个质量好的警员，比起那些质量差的警士来，在反共斗争中所起的作用便不止可顶两三个，而是可以一当十。
唐纵当时亟需解决的一个很现实的问题，便是如何安置军统缩编后裁汰下来的数以万计的小特务。这一大批在抗战期中扩充组织时吸收来的小特务，既无资历又无学历，又将他们大量转送到中央警官学校转业警官人员训练班去受短期的警察业务训练。这批人别的事做不来，反共却都是“老手”，唐纵将警士改为警员后，便毫不费力地可以把这批人安置下来，既可增加自己的力量，又可向蒋介石讨好，因此他将这一制度一直坚持下来。不过以后解放地区一天天扩大，特务逃往后方的越来越多，也就无法安置得了。
在他的“健全警察制度，必须使警察现代化和科学化”口号下，经费却大成问题，唯一办法是依靠中美合作所的剩余物资来装点门面。他接受毛人凤推荐原中美所主任秘书潘其武担任刑事警察处处长，还接收了原中美所的警械实验器材和上百只从美国空运来华的警犬。当时军统收下这批东西，不但没有多大用场，连警犬的喂养也感困难。郑介民和毛人凤落得做顺水人情，将这些器材和警犬一起送给了他。因此他在警察总署内增设了一个刑事实验室，由原任中美所重庆特警班第二期副主任刘人奎任主任。军统局原有一个警犬室，主任王芝禄，有几十条警犬，毛人凤也连人带狗一起送给了唐纵。这批器材和警犬便成了他实现科学化的“宝贝”了。他不止一次公开招待记者们去参观这些美国最新式的科学设备，吹嘘这是远东唯一的现代化装置。在召开全国警政会议时，他也亲自陪同各地赴南京开会的代表去参观这些新式刑具的表演。
中美所留下来的大批美国脚镣手铐，他也全部要了去，分发到几个大城市的刑警处，用这些东西作为镇压人民的利器。
他原来一向是崇拜德国警察制度的，抗战胜利后又改为崇拜美国，他曾准备聘请美国一个“犯罪学专家”为警察总署的顾问，以便更好地模仿美国的那一套。但那位“专家”对他所出的价钱不满意而不肯来，使他感到非常失望。
唐纵在“不浪费一文钱”的口号下，尽力施展了他那种“小家气”的作风（这是特务们背地里埋怨他）。他在一般的事情上可以马虎一点，在用钱方面却非经他亲自审批不行。副署长和主任秘书可以批其他公文，却不能代他批发特别经费。每天别人下班了，他还埋头坐在办公室里一件一件地批阅从几十到几万元的经费卷宗。在他身边工作的人，从来得不到他一文钱的特别照顾，他既不像戴笠那样逢年过节送特别费，更不准透支薪金，弄得许多人叫苦连天，大特务另有生财之道，一些小特务便只好与外面的特务勾结起来搞点花样来维持生活。
唐纵很少花钱请客，有次他和毛人凤两人出面请内政部次长和司长们吃饭，毛人凤叫下属完全由保密局开支。那个下属故意说，既是两个出面请客，便得各摊一半，毛人凤笑笑说：“你不是不知道唐先生的脾气。要他出钱的话，他会心痛得连饭都吃不下去的。”
那次他们两人为什么要请客，说来也是一件内幕新闻，胡宗南率领大军政下延安之后，一心想仿照卫立煌的先例，将金家寨改为立煌县的故伎，希望把延安改为“宗南县”，以显示他反共的“丰功伟绩”。胡宗南以为只要有发起，就可以顺利实现他那幻梦。在他的授意之下，首先由陕西省参议会提了出来，他满以为陕西省政府就可决定这个问题，殊不知一个县名的更改要经过内政部办理许多手续才行，胡只能指挥陕西省政府和省参议会，却指挥不了内政部，便叫他的老婆叶霞翟和毛人凤商谈，毛人凤认为唐纵当过内政部政务次长，所以请唐纵出面和他一起请一次客，唐纵对拉拢胡宗南也是很愿意的，所以立刻答应了。宴会之后，唐、毛人凤两人从中活动，自然顺利解决。不过等到一切手续都快办好，只等正式公布时，而延安又被解放军收复，胡宗南部狼狈逃出延安。事后，毛人凤用非常懊丧的神情对唐纵说：“一切都已办好，只怪胡长官太争气，白白花费许多精力，要能再坚持一个月，不是可以‘名垂千古’了么。”
唐纵提出的“不浪费一个人”的口号，实际上是自欺欺人。他最初由于怕别人说他滥用私人，不便把自己的堂弟唐振文留在警察总署，而介绍到交警总局去当交警总队副总队长。实际上到后来各方面介绍来的人他都是应付。俞济时一次介绍给他十多个亲戚和小同乡，指定要做大城市的警官，唐纵都一一予以照办。
在人事问题上，唐纵一直是弄得吃力不讨好。特别是1947年5月间，第一批警保处长上任的时候，军统特务所占的比例很小，除云南警保处长邱开基是军统外，其余浙江、福建、江西、湖南、湖北等，有的与军统有点关系，有的完全没有关系，弄得军统特务们大吵大闹，认为他当了署长忘了本。有人把这些情况告诉他，目的是听听他的意见。他当时心情很不宁静，听完之后，长长地叹了一口气才慢腾腾地说：“大家太不谅解我，这批人是刚从中央警校高级研究班毕业的，他们当中不少是抗战时期的军长、副军长或师长，对抗战都有功劳。蒋介石委员长交下来要妥善安置，不给他们当处长是不行的。”
他为了说明他对军统特务的照顾是尽到了他的力量，举出贵阳省会警察局长东方白为例子来说明他是如何关照“内部”的。东方白是下班在家拜佛，上班就下令抓人杀人的一个有名的刽子手。他当了贵阳省会警察局局长后，竟听信了一个姓吴的江湖术士的话，在警察局里设了一个炼丹炉，大炼其“长生不老”的什么“仙丹”。一些善男信女，天天到警察局去找局长和吴某大谈修行炼丹等秘法，有人把这情况报告蒋介石，蒋介石要唐纵彻查此事。但唐纵认为东方白虽然有点迷信，执行任务时还很认真的。在镇压贵阳学生运动和搜捕共产党人与民主人士方面，从来没有发生过什么问题。他根据这些向蒋介石报告，说东方白工作一贯认真，“成绩”不错，至于个人迷信并未影响执行任务，因此仍旧保留了这个局长，只不过叫他不要把炼丹炉设在警察局内。接着，他加重语气说，正是因为东方白是军统的“老同志”，所以他尽力维护。他说到这里，又长长地叹了一口气说：“我们有些人的行为也太有点荒唐了，光怪陆离，无奇不有，叫我也很为难，他们还不能谅解我。”
自第一批警保处长上任受到军统特务的指责后，他不能不很好地考虑这个问题。许多在他身边工作的人都表现出很明显的不满，背地里的闲话越来越多。毛人凤的人也从中煽动，散布流言蜚语。在这样的情况下，以后上任的警保处长中便出现大批军统老特务了。
在健全警察制度方面，他的确花了不少工夫。警察部门过去的一些法令条文，许多省市实行起来各自为政，唐纵对此都作了些修订，警察部门过去所没有的或不统一的东西，如警察法、警察抚恤条例、奖惩制度、退休办法等，都一一加以制定。他还选定以白色警鸽为警察的标志，制定各种奖章。他对他的这些“成绩”很满意，总爱向比较亲近的人介绍一下。但他却不同于当时的一般官吏，爱在报纸上大吹大擂，专做自我宣传。
他最怕见新闻记者，记者们也不易采访到警察总署的消息，当时只有军统办的大同通讯社的特务们能出入该署，所以报纸上公开报道的东西很少。这是由于一方面这个机关的许多措施都是与人民为敌的，不便公开发表，另一方面是他怕出问题挨蒋介石骂。他出任署长后，许多记者想找他的照片和履历去报上刊出，这在当时是很多人求之不得的事，但他却拒绝。
有一次在喝酒喝多了之后，唐纵对别人说：“我最不愿意在报上出风头，因为委员长看到了这些东西会不高兴。”
听了这句话，大家才明白过来。
和李士珍形同水火，在蒋经国的帮助下击垮对手
唐纵在出任警察总署之前，与中央警官学校教育长李士珍一向处得不错。戴笠过去与李士珍闹摩擦弄得不可开交时，他从不介入，有时还说戴笠对李太过分了一些。他去侍从室几年中，李经常去找他。他当了上署长以后，初时也很想避免和李发生矛盾，希望李在训练警官方面能与他很好地配合工作。他不但首先去拜访过李，同时对李也很恭维，他甚至当着很多人的面称李为“老大哥”。但李士珍却并不因为唐纵对他的态度好，就能真正和他合作而消除嫌怨。李士珍等了十多年，眼看戴笠死于非命，满以为十拿九稳可以把全国警察领导权夺到手中，连做梦也没想到唐纵把这个职位抢走了，他怎么会甘心？
最初唐纵对这个问题并不重视，他刚当上署长不久，有人就向他提出过，要警惕李士珍这个人。他回答说：“你以为戴先生处不好的人我也会处不好？”他又笑了笑，补充说他和李过去关系不错等一些话，好像很有信心，能把过去与军统为敌的人变成朋友。
