Nominado tres veces a los Óscar en la categoría de Mejor Cinematografía, obtuvo su nominación Óscar más reciente por "Gangs of New York" de Martin Scorsese.
Nacido en Alemania, Ballhaus ha rodado 15 películas para el difunto director alemán Rainer Werner Fassbinder. En 1983, hizo su debut americano como director de fotografía en "Baby, Its You" de John Sayles.
En 2006, Ballhaus recibió la Cámara de la Berlinale en el LVI Festival Internacional de Cine de Berlín por su contribución a la industria del cine.