中国是最早发明火炮的国家。早在元朝时，作为管形火器的竹管已开始被金属管所代替。先前以粗毛竹制作的突火枪，也变成了用金属做的大型火铳。这种用金属制作的大型火铳，就是早期的火炮。中国历史博物馆中展出的元代至顺三年（1331年）制造的青铜铸炮，重6.94公斤，长35.37厘米，口径105毫米。
中国的火药和火器西传以后，火炮在欧洲开始发展。14世纪上半叶，欧洲开始制造出发射石弹的火炮；1378年德国制成了铸铜炮和铸锡炮。
15世纪时，开始出现了带炮耳的火炮。这种火炮有两个短轴装置在炮管平衡点上，围绕该点可使炮管俯仰。当然，对炮手来说，最重要的是怎样才能简单迅速地调整火炮射程，正是这种需要导致了弹道学的诞生。伽利略提出，弹丸飞行的轨迹是抛物线形的，从而纠正了人们认为炮弹在垂直下落之前是直线飞行的错误观念。此后，英国的数学家本杰明·罗宾斯发明了一种名为弹道摆装置，用于测量初速。
进入18世纪后，火炮技术取得了惊人的进展。1736年，法国的古里鲍巴尔对火炮作了重大改进。他对炮身长度、炮筒尺寸、弹丸重量及火药的装药量等都进行了精心研究，并把火炮分成几段制造，即使炮体的一部分毁坏，也能在更换后继续使用。
18世纪中叶，普鲁士王弗里德里希二世和法国炮兵总监格里博沃尔曾致力于提高火炮的机动性和标准化。在英法等国多次试验的基础上统一了火炮口径，使火炮各部分的金属重量比例更为恰当。
从火炮出现到19世纪中叶以前，火炮一般是滑膛前装炮，发射实心球弹，部分火炮发射球形爆炸弹、霰弹和榴霰弹。这种火炮的主要缺点是射速慢，射程近，射击精度差。1846年，意大利G·卡瓦利少校在以往大量试验的基础上制成了螺旋线膛炮，发射锥头柱体长形爆炸弹，提高了火炮的威力和射击精度，增大了火炮射程。
火炮技术的一项重要进步是反后坐装置的创制。在19世纪末期以前，炮身通过耳轴与炮架相连接，这种火炮的炮架称为刚性炮架。这种炮架在火炮发射时受力大，火炮笨重，机动性差，发射时影响瞄准。在1807年英国旗舰“胜利号”上曾用滑轮和重锤来限制火炮的后坐力。
19世纪末期才出现了反后坐装置，炮身通过反后坐装置与炮架相连接，这种火炮的炮架称为弹性炮架。影响最大的是法国1897年式75毫米野战炮。
这种火炮的设计包括具有两种重要功能的液压气动式反后坐装置。它不但能吸收火炮射出时产生的后坐力，而且与当时处在研究阶段的其他方法不同，能在发射之后把炮管复归原位，从而有效地提高了火炮的发射速度和威力。
从20世纪初开始，火炮进入多样化、专业和性能全面提高的大发展时期。第一次世界大战期间，为了对隐蔽目标和机枪阵地射击，广泛使用了迫击炮和小口径平射炮。随着坦克的出现又产生了坦克炮。为了对付空中目标，广泛使用了高射炮。当时各交战国还重视大口径远程火炮的发展。法国1917年制成的220毫米加农炮，最大射程达22公里。德国1912年制成的420毫米榴弹炮，最大射程9300米。
20世纪30年代，火炮性能进一步改善。通过改进弹药、增大射角、加长身管等途径增大了射程。轻榴弹炮射程增大到12公里左右，重榴弹炮增大到15公里左右，150毫米加农炮增大到20～25公里。炮闩和装填机构的改进，提高了发射速度。普遍实行机械牵引，减轻火炮重量，提高了火炮的机动性。
第二次世界大战中，由于飞机提高了飞行高度，出现了大口径高射炮、近炸引信和包控炮瞄雷达在内的火控系统。由于坦克和其他装甲目标成了军队的主要威胁，又出现了无后坐力炮和威力更大的反坦克炮。
