在容闳的劝说下，曾国藩上奏派遣学生出国留学，这样可以培养一批兴办洋务运动所需的人才。自从曾国藩设立安庆内军械所，容闳响应号召来投奔后，就向曾国藩建议开办学校，培养能主持近代文化事业的新型人才，曾国藩表示赞同他的意见，但当时正忙于镇压太平军，天天打仗，无暇顾及教育的事。曾国藩派他去美国购买机器，开办工厂，制造军火，机器买回后，曾国藩与李鸿章在上海办起了江南制造总局。
各处兵工厂设立后，规模越来越大，要求也越来越高，急需一大批具有近代科技知识的人才，如造船、炼钢、制造各业中都需要人才，这些人才在当时的中国，是根本没有的。同治六年（1867年），曾国藩向容闳请教办法，容闳建议他在江南制造局附近设立一所兵工学校，聘请一批外国人一边翻译西洋科技书籍，一边教授中国员工学习新知识、新技术。这是曾国藩在容闳的帮助下建立的第一所新式学校，初步培养了一批新的科技人才，译出了第一批西方科技书籍。容闳后来曾兴奋地回忆说：“于江南制造局内附设兵工学校，向所怀教育计划，可谓小试其锋。”当时因忙于镇压捻军起义，容闳的“教育计划”仍未能被曾国藩全面落实。不久，容闳向江苏巡抚丁日昌提出他的教育计划，由丁日昌上奏朝廷，其中主要是派遣留学生问题。有关派遣留学生之目的、人数、方法、管理、经费等都提到了，但这个奏折经总理衙门文祥上递，因文祥丁忧回籍，而没有下文。
转眼到了同治九年（1870年），清政府为了让曾国藩发挥特长，将他调任直隶总督，容闳作为幕僚和翻译，随行处理天津教案。其间，容闳又多次与曾国藩商量派留学生之事，后到的丁日昌也与曾国藩谈及此事。曾国藩同意了容闳的主张，答应立即与李鸿章联名上奏，请求清政府旨准。容闳听曾国藩此说“乃喜而不寐，竟夜开眼如夜鹰”，庆幸自己的夙愿终被清廷大员所采纳。同年冬天，清廷批准了曾国藩与李鸿章合奏的派员留学奏折。
同治十年七月（1871年8月），曾国藩与李鸿章再次联合上奏，阐明派员出国留学的意义，并拟定了具体章程十二条，其主要内容如下：
1.与美国政府接洽，中国派幼童入美国学校学习，由清政府支付一切经费；
2.在上海设立“留学出洋局”，派员负责，选出幼童在局中培训，准备出国；
3.出洋幼童年在12至13岁左右，先选派120名，分4年派出，留学期限15年；
4.留学生学习专业由清政府决定，归国后也由政府具情录用；
5.幼童出洋后听从中国方面约束，学习洋文同时兼学中文；
6.拨出留学经费白银120万两，于江海关按年分拨。
这次上奏是曾国藩力主、李鸿章附会的。曾国藩在奏稿中一再强调派遣留学是国家“徐图自强”的重要条件，不容迟疑。他说，如今我们办厂、制器皆取西洋之长，购之西洋之器，花了大笔银子先就“力有不逮”，而更重要的是全恃外人之器，其中奥理则不能遍览久习，“则本源无由洞澈，而曲折无以自明”，是很危险的。
同治十一年一月（1872年2月），曾国藩见清政府没有反应，不依不饶，再次与李鸿章联衔上奏了派遣幼童出洋的具体落实情况。任命陈兰斌、容闳为正副委员，常驻美国，经管中国留学生事务；幼童出国前在上海训练，由刘翰清负责；留学生年龄扩至12至20岁（批准时又改为12至16岁）。
曾国藩一边上奏朝廷希望获得支持，一边派员物色适合派遣出国的学生，但因当时风气未开，这项工作极难进行。
与现代相反，当时人们都不认可出国留学，一般的幼童父母皆不愿把孩子送到遥远的大洋彼岸去，甚至认为几万里的海路是难以通过的。曾国藩派员到城镇和乡村动员，访问许多住户，宣传把孩子送出国受教育，经费全由政府负责。之后有的人申请了，可是有人散布流言，说西方野蛮人会把他们的孩子活活剥皮，再把狗皮接种到他们身上，当怪物展览赚钱，因此报名的人又撤销。一般知识分子也只把科举制度当做进身的正途，把读新学看成“不齿之事”，而更把出洋留学“斥为非类”。由于招生年龄极小，父母更不愿自己的幼子离开自己，何况出国前，幼童家长都得“具结”，约定“生死各安天命”，就更增加了父母的疑惧心理。
因为各种原因，这种天上掉馅饼的事也没有几个人响应，招生工作困难重重。尽管曾国藩派了不少官员四处游说，报名者仍是不多。不得已，只能派容闳回家乡广东香山招生，又去香港学堂中招揽，第一批留学生大部分是容闳的同乡，再就是有特殊条件者，如邝荣光，其父在澳门工作，见过世面，愿儿子去美国留学；唐廷枢和容闳是香港的同学，本人又从事近代工矿事业，思想比较开放，才送子唐国安赴美；李恩富的堂兄在上海经营茶叶生意，说服了他的家长。
在这批孩子中，就有一些中国近代著名的科学家。当时，詹天佑一家并不知有留学招生一事。一位在香港做事的邻居告诉詹兴洪（詹天佑父亲），劝他送子出国留学，詹兴洪不干，希望儿子走科举正途。这位邻居却认为留学前途远大，主动说如果詹天佑愿意留学，就把女儿许配他。这样，詹天佑之父才愿具结送子留学，当时詹天佑只有12岁。
当然，不能突然就把这群自小生活在中国的孩子放到一个完全陌生的环境中。为了做好出国前的准备工作，曾国藩拨款在上海设立了“出洋预备学校”，设有正副校长，中西文教习。幼童在这里先受教育半年，学习简单的英文、中文，了解出国的各种知识。学校要求极其严格，学习不努力的还要进行体罚。第一批幼童在这里受训后，基本都完成了预备班的学业。
培训后，经过考试合格的中国第一批出国留学幼童30名，于同治十一年（1872年）夏天从上海乘轮出洋，正式揭开了中国学生出国留学历史篇章的新页。遗憾的是，为第一批留学生作过努力的曾国藩却在数月前辞世，没能亲眼看到那一天。尽管如此，中国留学史上毕竟留下了他努力的印迹。
在这批小留学生出国前，容闳为了安排食宿、读书等具体事务，提前赴美。临走前，曾国藩同他进行了长谈，谈到留学归国，中国有了各方面的人才，外国就不会再欺侮中国了。虽然中国派遣留学生不可能根本改变受侵略、受欺辱的国际地位，但毕竟有了中国自己的近代科学家、外交家、军事家等一大批具有新型知识结构和新思想的知识分子群，对中国的维新、革命和文化、经济建设发挥了很大的作用，有些影响也是曾国藩等清朝官僚所始料未及的。
