许多史籍表明，最早的火药，是在公元9世纪后半期唐末宋初问世的。
当时发明的火药，现在叫黑色火药，是硝石、硫黄和木炭三种粉末的混合物。硝石的化学成分主要是硝酸钾。硝酸钾是氧化剂，加热时释放氧气。而硫和炭容易被氧化，所以把硫黄、木炭、硝石混合在一起燃烧，就会发生迅猛的氧化还原反应，在反应中放出高热和产生大量气体。如果混合物是包裹在纸、布或充塞在陶罐、石孔里，燃烧时由于体积突然膨胀，就会发生爆炸，这就是黑火药燃烧爆炸的原理。
火药是我国古代的炼丹家发明的。在炼丹过程中，他们很注重硫黄，因为硫黄是能够制伏金属的奇异物质。它可以和水银化合生成硫化汞，还可以和铜铁等金属化合。硫黄性质活泼，容易着火。为了控制硫黄，炼丹家把硫黄和其他物质一起加热形成化合物，来改变它容易着火的性质，这种方法称为“伏火法”。在进行硫黄“伏火”的种种实验中，发现当硫黄、木炭和硝石一起加热时，极易发生激烈的燃烧。由于硫黄和硝石在我国古医书上被列为治病的药物，所以把它们和木炭的混合物称为“火药”，意思是会着火的药。
史书记载着唐初医学家兼炼丹家孙思邈的“丹经内伏硫黄法”，从中可知当时已经掌握了由硝石、硫黄、木炭混合在一起的火药的初步配方。最早完整地刊载火药的配方和制造工艺的，是北宋官修御定的《武经总要》。《武经总要》成书于公元1044年，该书的第11、12卷中，记载了制毒药烟球、蒺藜火球和引火球（也叫“火炮”）三种火药的配方。其中的主要成分是硝、硫、炭，而且硝的比重大大增加。唐代火药硫、硝含量相同，为1：1，而在这三个配方中已增加到1：2，甚至近乎1：3，已与后世黑火药中硝占3／4的配方相接近。同时，又加进各种少量辅助性配料，分别起燃烧、爆炸、放毒和制造烟幕等作用，可见当时的火药配方已经相当复杂了。
火药在军事上、生产中有着极其重要的作用。
马克思曾把火药和印刷术、指南针的发明称作“是资产阶级发展的必要前提”。公元13世纪初期和中期，火药传到阿拉伯国家；13世纪下半期，欧洲知识分子才从阿拉伯书籍中得到有关火药的知识；14世纪上半期，欧洲才开始制造火药武器。虽然火药带给人类的有利也有弊，但它的发明毕竟具有不可替代的历史意义。
