对于洋枪洋炮的威力，张之洞早在中法战争中就已经领教过。在两广总督任上时，他就开始创办枪炮厂。只是当时的规模很小，无法满足张之洞的要求。于是，他就通过清政府的驻欧洲大使联络德国人，希望从德国进口枪炮的生产设备。然而，还没等设备运到广东，张之洞已经调往湖北。
李鸿章虽然对张之洞的铁厂设备不感兴趣，但是，对于张之洞的枪炮厂设备却兴趣十足。李鸿章积极走动，希望能够把张之洞订购的枪炮厂设备转运到天津或北京，使之处在他控制的北洋势力之下。张之洞对大型枪炮厂心仪已久，无论如何是不会答应李鸿章的。由于李鸿章怂恿他的哥哥、接任两广总督的李瀚章不要接手铁厂，张之洞就趁机要求把铁厂和枪炮厂一起转到湖北。为此，张之洞还提出了将枪炮厂设在湖北的好处：首先是他要在湖北办铁厂，铁厂可以为枪炮厂提供原料；其次是湖北为九省通衢，设在湖北可以支援周边各省，即便沿海地区急需枪炮，也可以通过长江水道快速抵达；最后，在湖北设厂对于改变当地落后的面貌有不小的帮助，有利于西部的稳定（后来四川的保路运动分散了湖北新军，革命党则趁机在武昌发动了起义，这与张之洞的设想完全相反）。
对于清政府而言，他们更关心如何制衡这些把持地方大权的官僚。当时的李鸿章已经是位高权重，如果再给他一个大型枪炮厂，实力必然会再次提升。再者，张之洞和李鸿章的关系不融洽已不是什么秘密，壮大张之洞制衡李鸿章也未尝不可。出于这样的考虑，朝廷方面决定让张之洞把枪炮厂也带到湖北去办。如此，张之洞在德国订购的枪炮厂设备算是保住了。
张之洞建枪炮厂，继续坚持“要建就建最好”这一原则。1891年，已经就任湖广总督的张之洞，听说德国在1888年又研制出了更为先进的步枪，比之前的毛瑟71式步枪还要好。于是，他就要求德国方面把设备换成生产新式步枪的设备。德国方面听说张之洞要求更换设备，而且还是最新式步枪的设备，当然不乐意。不过，也没有拒绝张之洞，而是要求加价，而且是45万马克高价。这可不是一笔小数目，但是，张之洞答应了。
如果单从技术标准上来说，张之洞买到的确实是当时世界上技术最先进的步枪。但是，枪械所追求的，不是技术上最先进，而是士兵在使用时的可靠。以AK47和M16这两种突击步枪为例，M16出现的时间比AK47要晚将近20年，从技术角度而言，M16肯定优于AK47，但是，在越南战场上，美军士兵很多时候会扔掉自己的M16，捡起越南士兵丢下的AK47，其原因就在于AK47在使用时出现故障的概率远低于M16，比M16更为可靠。
所以，枪支在使用时的可靠性才是第一重要的因素。从枪支的可靠性上来说，德国人这次狠狠地坑了张之洞一回。
张之洞新看上的那款德国步枪被称为1888式“委员会步枪”。1888年，为了抗衡法国的新式步枪，德国的一个步枪试验委员会利用已有的技术，拼凑出了这款新式步枪。这款枪并非毛瑟工厂的产品，只是德国军方迫于武器的发展形势临时拿出的一个方案。当时，德国军队急于装备新枪，而毛瑟工厂研制新枪又很费时间，所以这款临时拼凑的枪就成了德国军方的首选，短时间内大量装备德国军队。然而，装备到部队的新枪很快就暴露出了问题，比如装弹退弹困难、抽壳可靠性不佳，最严重的是炸膛。枪容易炸膛，这还了得？本来是要杀敌的，这一炸膛，估计连自己的性命也难保了。德国方面已经生产了很多这样的枪，可以说是骑虎难下，只能修修补补勉强维持，当毛瑟工厂设计出新的枪械后，他们就迫不及待地换上了真正的毛瑟步枪。
当张之洞要买毛瑟步枪生产设备的消息传到德国方面后，德国人立马有了主意：把1888式“委员会步枪”当作毛瑟步枪卖给张之洞。身处中国的张之洞对于发生在德国的事情并不清楚，更何况德国人已经声明，卖给张之洞的是最新式的毛瑟步枪。而张之洞经过考察，发现德国人拿出的步枪确实比以前买的步枪要先进，于是，他就买下了这种让德国人头疼的枪。就这样，德国人在加价之后，把一款问题不断的枪支卖给了张之洞。这款步枪到了中国之后，就成了大名鼎鼎的“汉阳造”步枪。
1892年，湖北枪炮厂破土动工，两年以后于1894年建成。枪炮厂在当年6月完工后，张之洞于7月初亲自视察枪炮厂，由此可见他对枪炮厂的重视。然而，张之洞视察后没多久，在7月中旬，枪炮厂就发生了一场大火。就这样，刚刚建成还没来得及投产的枪炮厂在大火中化为灰烬。这场大火也暴露出了管理上的漏洞，这一点和铁厂毫无二致。
看着化为灰烬的枪炮厂，张之洞怒不可遏。他想要追究责任人，可是，枪炮厂衙门式的管理方式使得责权不明、分工不清，这场大火似乎谁都应该负责，但是每个人又有足够的理由将责任推卸得一干二净，到头来偌大一场事故竟是因为一点小差错引起。一个小差错会引起这么大的事故，不是因为小差错有多么可怕，而是因为小差错背后藏着数不清的大问题。监管不到位、责任不明确，使得没有人去及时纠正小差错，小差错才有机会酿成大事故。如果枪炮厂各个岗位的人员能够分工明确、各守其责，那么，这些小差错会在第一时间被消灭，如此这般，又怎么可能引发大灾难呢？所以，一个小差错能引起大事故，这绝不是小差错的问题，而是因为造成大事故的问题早已存在，小差错只不过是那么轻轻一堆，于是，所有的问题就暴露出来了。张之洞如果要追究责任，他自己就要担负最大的责任，他那不合理的管理方式才是问题的根源所在。
张之洞找不到应该为枪炮厂大火负责的人员，心里很是郁闷。忙活了这些年，花了大把大把的银子，最终却成了一堆灰烬，这让他的信心倍受打击。而且，在这个时候，中日间的战争已经爆发，朝廷一时也拿不出银子来让他重建枪炮厂。不得已，张之洞只好把原来枪炮厂的人员都裁撤了，只留下枪炮厂被大火烧过的废墟。
随着中日战局越来越激烈，朝廷将两江总督刘坤一调往前线负责对日作战，张之洞则被任命为代理两江总督，临时帮着刘坤一打理两江的事务，当然，湖广总督的事他也不能放下。中日战争中，清朝军队不断吃败仗，张之洞在后方真是焦急万分，他再次感到了军事工业的重要性。所以，1895年7月，也就是中日战争刚刚结束后，张之洞就再次给朝廷上奏折，请求朝廷拨款重建湖北枪炮厂。中日一战，李鸿章的势力被削弱，张之洞则名声大振，朝廷方面也开始更多地倚重张之洞，所以，张之洞再建枪炮厂的申请得到了朝廷的批准。于是，张之洞再次花费重金从德国购进生产设备。
新的设备和厂房很快就投入使用，并且开始试生产。此次厂房建设还算顺利，没有再发生重大事故。到1895年底，枪炮厂基本建成，第二年开始投入正式生产。1896年，一共生产了1300支步枪，此后，产量不断提高，中间虽有起伏，但是整体规模依然庞大，最高时的日产量可达到200支。对于枪支本身存在的一些问题，枪炮厂的技师们也并非束手无策，他们积极对枪支进行改进，将问题降到最小化。比如说炸膛的问题，枪炮厂的技师们就在子弹和枪管上进行改进，他们采用了不易出现问题的圆头子弹，替代了容易引起炸膛的尖头子弹，同时还增加枪管的厚度，使它可以承受更大冲击力。最终，经由中国人的智慧重新打磨的1888式“委员会步枪”克服了诸多让德国人头疼的问题，成为可靠耐用的“汉阳造”步枪。从1895年起，这款步枪逐渐成为中国军队装备最多的步枪，甚至还在抗美援朝的战场上使用过。在这半个世纪的时间里，中国陆陆续续生产了超过100万支“汉阳造”。
在张之洞看来，军事工业事关国家安危，所以，军事工业的方方面面都不能受外人制约。为了能够实现完全独立自主的目标，张之洞便不惜成本，建成了从原料到成品无所不产的军工系统。所以，张之洞建的枪炮厂不仅是生产枪支，还能生产火炮、枪弹、炮弹以及与其配套的炮架、铜壳、底火等产品。由于工艺的原因，张之洞的兵工厂能够生产的都是小口径火炮，不过，即便是这些小口径火炮，在工业及其落后的旧中国，也是难得的武器。
对于枪炮厂而言，最大的问题是资金。当时的枪炮厂资金都是政府拨款，生产出来的武器也是直接分配给军队使用，根本就不参与市场流通。张之洞为重建枪炮厂，前前后后就花了将近300万两银子，后来枪炮厂投产，每年的经费又是几十万两银子。朝廷没有钱，张之洞就想让各省出钱支援枪炮厂，结果根本就没有得到响应。不得已，张之洞只能想方设法在湖北找钱。一方面，张之洞从地方财政上拨款给枪炮厂；另一方面，他还找当地的官绅给枪炮厂“捐款”，据说有人一次就捐了20万两银子。然而，这些都不是长久之计，枪炮厂在资金上仍然是朝不保夕。在资金困难的时候，张之洞甚至不惜向洋人借款，更甚至挪用铁厂的资金。到1907年张之洞离开湖北之前，他为枪炮厂借了500多万两银子。
据一份调查报告称，张之洞的枪炮厂从投产到1908年，共造步、马快枪11万余支，枪弹4000余万发，各种炮985尊（其中各类快炮740余尊，前膛钢炮120余尊），各种炮弹98万余发，无烟火药约15万公斤。
1904年，湖北枪炮厂的规模已经非常庞大，形成了完整的军工系统。此时，张之洞认为，“枪炮厂”三个字已经不能用来形容他办的军工厂了，于是便给朝廷上奏折，希望将“枪炮厂”这个名字改一改。最终，经朝廷批准，张之洞将“湖北枪炮厂”更名为“湖北兵工厂”，后又于1908年更名为“汉阳兵工厂”。
就这家兵工厂而言，它的出现确实在很大程度上改变了当时中国军队的装备情况，为中国反抗外国侵略贡献了自己的力量，也为中国的军事工业奠定了基础。然而，需要指出的是，一个国家的强大与否，绝不是由某种先进武器决定的。如果国家不能从根本上建立一套可以使国家走向富强的体制，那么不论这个国家拥有多少先进的武器，其结果依然是可悲的。张之洞的确为大清朝引进了那个时代的先进武器，但是，这些武器不仅没能挽救故步自封的大清朝，反而加速了大清朝的灭亡。
今天看来，国家富强的根本是制度，一个可以激发整个国家活力的制度。但是，100多年前的张之洞并不认可这样的观点，他坚持的是“中体西用”，他相信，只要在中国开办足够多的工厂，国家就能富强。为了这个目标，他几乎耗尽全部心血。
