Nació en la ciudad de Orange Township, hoy Moreland Hills, un suburbio de Cleveland, Ohio el 19 de noviembre de 1831. Su padre murió en 1833. Creció cuidado por su madre, Eliza Ballou y un tío.
En Orange fue un precursor de las escuelas de la ciudad. De 1851 a 1854, estudió en el Western Reserve Eclectic Institute (más tarde el Hiram College) en Ohio. Después se trasladó a la universidad de Williams en Williamstown, Massachusetts, donde fue miembro de la hermandad Delta Epsilon. Se graduó en 1856, sobresalió en todas las materias excepto en química.
Enseñó en el Eclectic Institute idiomas clásicos durante el curso académico de 1856-1857 y fue nombrado director del instituto a partir de 1857 y hasta 1860.
Se casó con Lucrecia Rudolph, una de sus antiguas alumnas en 1858 con la que tuvo hijos llamados Eliza, Harry, Jaimes, María, Irvin, Abram y Edward.
Fue elegido como Senador por el estado de Ohio.
En 1862, cuando las victorias militares de la Unión habían sido pocas, dirigió con éxito una brigada en Middle Creek, Kentucky, contra las tropas de la Confederación. Se convirtió en el más joven general de brigada en el Ejército de la Unión.
Los residentes de Ohio lo eligieron para el Congreso. El Presidente Lincoln lo persuadió a renunciar a su comisión militar, era más fácil de encontrar mayores generales que obtener republicanos eficaces para el Congreso. Garfield en repetidas ocasiones ganó la reelección por 18 años, y se convirtió en el líder republicano en la Cámara.
A los 33, Garfield se convirtió en mayor general de los voluntarios y en 1880, es Presidente Electo de los Estados Unido. El 2 de julio de 1881, un abogado de nombre Charles Guiteau, tiroteó al Presidente.
El 6 de septiembre, Garfield fué llevado a la costa de Nueva Jersey. El 19 de septiembre de 1881, murió de una infección y de una hemorragia interna.
Garfield trabajó en el canal de Erie cuando niño. Fue el primer presidente de «zurdo». Fue el primer presidente cuya campaña fue en más de un idioma (Inglés y Español).