1893年，张之洞的汉阳铁厂已经进入到最后的建设阶段。这一年的11月，张之洞上书朝廷，提出在武汉设立新式学堂。张之洞认为，想要自强，必须先要培养人才，所以他将这个新办的学堂命名为“自强学堂”。在这里，张之洞又创造了一个中国第一：中国近代教育史上第一所真正由中国人自行创办和管理的新式高等专门学堂。
自强学堂开办之初，设方言、算学、格致、商务四门，每门招收20名学生，专门培养外语和商务人才。这里所说的方言和今天所说的方言并不是一个概念。按照今天的理解，所谓方言就是在汉语的范畴内，中国各个地方专属的地方性语言。基本上每个省都有自己的汉语方言，当然，同一个省份也会有不同方言。自强学堂里的方言课却不是这个意思，他们所说的方言，其实是指外语，主要教授英语、法语、德语、俄语。算学就是今天所说的数学。格致则源于“格物致知”，是指教授中国传统的儒家学说。商务则是教授西方的商业理念。
对于不同专业的学生，学堂要求不同。其中对方言一科的学生要求最严。按照学堂的规定，方言一科的学生必须住在学堂内，也就是说对他们要实行封闭式管理。对于其他三个专业的学生则不同，学堂并不要求他们住校，只是每个月对他们进行考核，一月一考，这和今天学校的月考倒是有诸多相似。
自强学堂的录取条件是“以华文为根底，以圣道为准绳”，强调学生的中文功底和对儒家的信仰。为了能够确保学生专心学习，学生的生活起居、学习用品完全由学堂承担。对于学生毕业后的去向，张之洞要求他们为国效力，如果学生毕业后去给洋人办事，那么学堂将向他们追缴当初的学费。
中日甲午战争中国惨败，签订了屈辱的《马关条约》，张之洞决心对自强学堂进行改革，以便更好地服务于他的强国计划。因此，张之洞于1896年对自强学堂进行了以下改革：
一、将算学一门移归两湖书院；
二、格致、商务两门停办，改为一般课程；
三、将方言一门扩大为英文、法文、德文、俄文四门，每门招生名额扩大到30人，1898年又增加东文（日语），共计五门，至此招生规模达到150人；
四、并入化学学堂，开创自然科学专门教育；
五、增设译书机构，开创翻译商务经济书籍新风；
六、取消生活补助，实行奖学金制；
七、选派13名学生留学日本。
这13人是中国近代教育史上最早的留日学生，他们大多为最早的“同盟会”会员。为此，孙中山先生高度评价张之洞：“不言革命之大革命家。”
1902年，清廷管学大臣张百熙在《奏办京师大学堂疏》中称：“查京外所设学堂，已历数年，办有成效者，以湖北自强学堂、上海南洋公学为最。”
1901年1月，因为八国联军进攻北京城而出逃到西安的慈禧太后在西安颁布“变法”上谕，宣布实行“新政”。在此“新政”下，1901年9月，清政府下兴学诏，要求除京师已设大学堂应切实整顿外，着各省所有书院，于省城均改设大学堂，各府厅直隶州均设中学堂，各州县均设小学堂，并多设蒙养学堂。
作为后期洋务中枢的湖北，理所当然应该率先行动。1902年6月，张之洞向学务处汇报教育改革的进度，他将自强学堂改名为方言学堂，并重新选址。新校址北倚蛇山，南临长湖，地势高爽，风景宜人，是当时湖北诸学堂中最理想的办学位置。
方言学堂较自强学堂规模扩大，学生数量增加。自强学堂时期，历届招收新生最多为120名。改为方言学堂后，明确规定英、俄、日、德、法五科，每科各招30名，共计150名。到了1905年2月，招满3届的在堂学生已达354人，这是自强学堂开办以来人数最多的一年。同时增开课程达16门之多，有人伦道德、经学、中国文学、外语、地理、历史、算术、博物、物理化学、教育、理财、公法、交涉、绘图、体操、兵操。
方言学堂虽屡遭厄运，仍为社会培养了不少的专门人才。自强学堂和方言学堂的学生毕业后，主要分布在各省的教育、工业、商业等行业，从事教学、翻译及商务诸事。留在湖北的多在省城及府县的实业中等学堂担负外语、国文、历史、地理、格致、教育、图画、体操、算学、经学等课程的教学。我国近现代史上许多著名人物也在这里毕业和肄业。例如，著名的民主革命家、辛亥革命中光复新疆的主要负责人冯特民，著名民主革命家、史学家、《湖北学生界》的主笔刘成禺，著名的法学家马德润，著名的外交家沈翔云、夏维崧以及陈篆、陈宦、赵恒惕等。
自强学堂、方言学堂是张之洞亲手悉心创办的近代新式学堂，在当时就引起社会强烈的反响。湖南有识之士创办的东山精舍，就是以张之洞的自强学堂为蓝本创办的。湖北自强学堂与各同文馆、实学馆、水师武备学堂一样，都是讲授中西学问的重要学府。著名维新人物梁启超在其著作中也多次提到自强学堂，对这类新式学堂寄予厚望。
但清朝末年，国势艰难，外患日棘，民穷财尽。1910年9月，湖广总督瑞澄等以湖北教育经费紧张为由，向湖北咨议局提出将方言学堂等学堂停办的议案。1911年2月，新任提学使王寿彭认为经费无法支持，不顾咨议局的决议，断然将方言学堂停办。自强学堂从1890年春开始动议筹办，1893年正式建成定名，1902年6月改名方言学堂，到1911年2月被迫停办，前后历经22年。
学堂停办后，其校舍一度被黎元洪用作武昌军官学校的校舍。1913年，民国政府教育部决定设立国立武昌高等师范学校。湖北都督黎元洪决定，将武昌军官学校使用的校舍提供给武昌高等师范学校使用。于是，当年自强学堂的校舍又成了武昌高等师范学校的校舍。武昌高等师范学校经过百年发展，成为今天的武汉大学。
自强学堂从创办时起便一改中国传统书院“学不分专门”的旧习，仿照西方高等教育模式，在全国各学堂中率先实行分科教学、按班授课的体制，开风气之先，在全国范围内起到了良好的示范带头作用。此后许多学堂都仿照自强学堂的模式，进行分科教学。自强学堂在当时社会影响较大，其成就与水平得到了许多专家学者的高度评价，其中就有梁启超。学堂毕业生中有30多人成为辛亥革命志士，6位师生后来被推举为“甲种”或“乙种”“武昌起义有功人员”。
