Aunque comienza a estudiar medicina, pronto se muestra interesado por la interpretación y comienza a estudiar interpretación en la prestigiosa Pasadena Playhouse de Los Ángeles. Posteriormente se traslada a Nueva York para continuar con sus estudios y realiza sus primeros pinitos en Broadway.
Durante sus primeros años como actor desarrolla distintos papeles en la pequeña pantalla aunque su gran oportunidad no llega hasta 1967, cuando consigue su primera nominación al Oscar a Mejor Actor por su papel en ‘El graduado’. El éxito obtenido por la película le proporciona múltiples trabajos durante la década de los 70, como ‘Cowboy de medianoche’ (1969), ‘Pequeño gran hombre’ (1970), ‘Todos los hombres del presidente’ (1976), ‘Marathon Man’ (1976) o ‘Kramer contra kramer’, que le vale su primer premio Oscar.
Su segundo Oscar, ya reconocido mundialmente como actor’ llega en 1989 gracias su interpretación en ‘Rain Man’, tras participar en otras exitosas películas como ‘Tootsie’ (1982), por la que también resulta nominado. A lo largo de su carrera protagoniza títulos tan importantes como ‘Hook: El capitán garfio’ (1991), ‘Héroe por accidente’ (1992), ‘Sleepers’ (1996), ‘La cortina de humo’ (1997), ‘El jurado’ (2003), ‘Los padres de él’ (2004), ‘El perfume: Historia de un Asesino’ (2006) o ‘El mundo según Harvey’ (2010).