A pesar de haber tomado algunos cursos de química, su formación fue esencialmente autodidacta, especialmente en el campo del electromagnetismo. En 1839 en el laboratorio de su casa, comenzó a estudiar sobre la eficiencia de los motores eléctricos, que lo llevaría a desarrollar sus conocimientos sobre el calor.  Estudió el magnetismo, y descubrió su relación con el trabajo mecánico, lo cual le condujo a la teoría de la energía. La unidad internacional de energía, calor y trabajo, el Joule (o julio), fue bautizada en su honor. A pesar de la importancia de sus descubrimientos, Joules siguió siendo un científico aislado, la mayor parte de su vida. Después de la muerte de su esposa y su hija en 1853, vivió prácticamente solo muriendo 11 Octubre 1889.