Fue un rapero, cantante y compositor estadounidense. Su canción «Scatman (Ski-Ba-Bop-Ba-Dop-Bop)» fue un éxito a nivel mundial. Como a él le gustaba decir, su carrera hacia el éxito fue un proceso de «convertir mi mayor problema en mi mayor cualidad», pues Scatman John era tartamudo.
Recibió 14 discos de oro y 18 de platino por sus álbumes y sencillos. Asimismo, recibió el «premio Annie Glenn» por su servicio a la comunidad de tartamudos y fue incluido en el Salón de la Fama de la Stuttering Association. En 2019, "Scatman's World" tuvo un resurgimiento después de convertirse en un meme de Internet

Cuando aprendió a hablar, tenía un tartamudeo severo, lo que contribuyó a su infancia emocionalmente traumática. Incluso en la cima de su éxito en 1995, los periodistas afirmaban que durante las entrevistas difícilmente terminaba una frase sin repetir la última sílaba seis o siete veces. A los doce años, comenzó a aprender a tocar el piano y dos años más tarde se familiarizó con el arte del canto scat a través de discos de Ella Fitzgerald y Louis Armstrong, entre otros. El piano supuso para él un medio de expresión artística para compensar sus dificultades para hablar, y "se escondió detrás del piano porque tenía miedo de hablar". Su primera actuación conocida en un álbum de estudio fue en 1981 en el álbum Animal Sounds de Sam Phipps .
En 1986, lanzó el álbum homónimo John Larkin en el sello Transition. Este álbum fue producido por el propio John, junto con Marcia Larkin. Contó con la participación de Joe Farrell en el saxofón.