人们对热的本质的研究在18世纪时走了一条弯路，“热质说”在物理学史上统治了一百多年。虽然曾有一些科学家对这种错误理论产生过怀疑，但人们一直没有办法解决热和功的关系的问题，是英国自学成才的物理学家詹姆斯·普雷斯科特·焦耳为最终解决这一问题指出了道路。
1818年12月24日，焦耳出生于英国曼彻斯特，他的父亲是一个酿酒厂主。焦耳自幼跟随父亲参加酿酒劳动，没有受过正规的教育。青年时期，在别人的介绍下，焦耳认识了着名的化学家道尔顿。道尔顿给予了焦耳热情的教导。焦耳向他虚心学习了数学、哲学和化学，这些知识为焦耳后来的研究奠定了理论基础。而且道尔顿教诲了焦耳理论与实践相结合的科研方法，激发了焦耳对化学和物理的兴趣。
焦耳最初的研究方向是电磁机，他想将父亲的酿酒厂中应用的蒸汽机替换成电磁机以提高工作效率。1837年，焦耳装成了用电池驱动的电磁机，但由于支持电磁机工作的电流来自锌电池，而锌的价格昂贵，用电磁机反而不如用蒸汽机合算。焦耳的最初目的虽然没有达到，但他从实验中发现电流可以作功，这激发了他进行深入研究的兴趣。
焦耳于1840年把环形线圈放入装水的试管内，测量不同电流强度和电阻时的水温。通过这一实验，他发现：导体在一定时间内放出的热量与导体的电阻及电流强度的平方之积成正比。四年之后，俄国物理学家楞次公布了他的大量实验结果，从而进一步验证了焦耳关于电流热效应的结论的正确性。因此，该定律称为焦耳-楞次定律。
提出焦耳-楞次定律以后，焦耳进一步设想电池电流产生的热与电磁机的感生电流产生的热在本质上应该是一致的。1843年，焦耳设计了一个新实验。他将一个小线圈绕在铁芯上，用电流计测量感生电流，把线圈放在装水的容器中，测量水温以计算热量。这个电路是完全封闭的，没有外界电源供电，水温的升高只是机械能转化为电能、电能又转化为热的结果，整个过程不存在热质的转移。这一实验结果完全否定了热质说。
上面的实验也使焦耳想到了机械功与热的联系，经过反复地实验、测量，焦耳终于测出了热功当量，但结果并不精确。1843年8月21日在英国学术会议上，焦耳报告了他的论文《论电磁的热效应和热的机械值》，他在报告中说1千卡的热量相当于460千克米的功。他的报告没有得到支持和强烈的反响，这时他意识到自己还需要进行更精确的实验。
焦耳在1844年研究了空气在膨胀和压缩时的温度变化，他在这方面取得了很多成就。通过对气体分子运动速度与温度的关系的研究，焦耳计算出了气体分子的热运动速度值，从理论上奠定了波义耳-马略特和盖·吕萨克定律的基础，并解释了气体对器壁压力的实质。焦耳在研究过程中的许多实验是和着名物理学家威廉·汤姆生（后来受封为开尔文勋爵）共同完成的。在焦耳发表的九十七篇科学论文中有二十篇是他们的合作成果。当自由扩散气体从高压容器进入低压容器时，大多数气体和空气的温度都要下降，这一现象就是两人共同发现的。这一现象后来被称为焦耳-汤姆生效应。
不管是在实验方面，还是在理论上，焦耳都是从分子动力学的立场出发进行深入研究的先驱者之一。
焦耳在从事这些研究的同时，并没有停止对热功当量的测量。1847年，焦耳做了迄今认为是设计思想最巧妙的实验：他在量热器里装了水，中间安上带有叶片的转轴，然后让下降重物带动叶片旋转，由于叶片和水的摩擦，水和量热器都变热了。根据重物下落的高度，可以算出转化的机械功；根据量热器内水的升高的温度，就可以计算水的内能的升高值。把两数进行比较就可以求出热功当量的准确值来。
焦耳还用鲸鱼油代替水来作实验，测得了热功当量的平均值为423.9千克米/千卡。接着又用水银来代替水，不断改进实验方法，直到1878年，这时距他开始进行这一工作将近四十年了，他已前后用各种方法进行了四百多次的实验。他在1849年用摩擦使水变热的方法所得的结果跟1878年的是相同的，即为423.9千克米/千卡。一个重要的物理常数的测定，能保持三十年而不作较大的更正，这在物理学史上也是极为罕见的事。这个值当时被大家公认为热功当量J的值，它比现在J的公认值——427千克米/千卡约小0.7%。在当时的条件下，能做出这样精确的实验来，说明焦耳的实验技能是多么的高超啊！
但是，1847年，当焦耳在英国科学学会的会议上再次公布自己的研究成果时，他还是没有得到支持，很多科学家都怀疑他的结论，认为各种形式的能之间的转化是不可能的。直到1850年，其他一些科学家用不同的方法获得了能量守恒定律和能量转化定律，他们的结论和焦耳相同，这时焦耳的工作才得到承认。
凭借在物理学上作出的重要贡献，焦耳于1850年成为英国皇家学会会员。当时他三十二岁。两年后他接受了皇家勋章。许多外国科学院也给予他很高的荣誉。虽然焦耳不断进行着他的实验测量工作，遗憾的是，他的科学创造性，特别是在物理概念方面的创造性，过早地就减少了。1875年，英国科学协会委托他更精确地测量热功当量。他得到的结果是4.15，非常接近目前采用的值1卡＝4.184焦耳。1875年，焦耳的经济状况大不如前。这位曾经富有过却没有一定职位的人发现自己在经济上处于困境，幸而他的朋友帮他弄到一笔每年200英镑的养老金，使他得以维持中等但舒适的生活。五十五岁时，他的健康状况恶化，研究工作减慢了。1878年当他六十岁时，焦耳发表了他的最后一篇论文。1878年，焦耳退休。
1889年10月11日，焦耳在索福特逝世，享年71岁。后人为了纪念焦耳，把功和能的单位定为焦耳。
1887年，焦耳曾经对他的弟弟说：“我一生只做了两三件事，没有什么值得炫耀的。”相信对于大多数物理学家，他们只要能够做到这些小事中的一件也就会很满意了。焦耳的谦虚是非常真诚的。很可能，如果他知道人们在威斯敏斯特教堂为他建造了纪念碑，并以他的名字命名能量单位，他将会感到惊奇的，虽然后人决不会感到惊奇。
