La película está basada en un hecho real que ocurrió el 22 de agosto de 1972, cuando los ladrones John Wojtowicz y Salvatore Naturile asaltaron un banco de Brooklyn. El director de 'Tarde de perros' llegó hasta esa historia a través de un artículo de la revista Life.
El verdadero ladrón en el que está basado el papel de Al Pacino vio la película de 'El padrino' para coger ideas sobre cómo hacer el robo. Casualmente, dos de los actores que participan en 'Tarde de perros' (Pacino y John Cazale) también actuaron en la mítica película de Francis Ford Coppola.
En el guion original, había una escena en la que Sonny y su amante transexual tenían que besarse apasionadamente en un parque, pero Al Pacino rechazó rodarla. En el montaje final, el beso fue sustituido por una conversación telefónica.
A mitad de la producción de la película, Al Pacino sufrió un colapso a causa de la extenuación y tuvo que ser hospitalizado durante un corto periodo de tiempo. Después de terminar de rodar, decidió tomarse un descanso en cuanto a la industria del cine y dedicarse al teatro.
La grabación se realizó durante 7 semanas, en las cuales el equipo técnico y artístico trabajó día y noche. Debido al rápido estilo de trabajo del director Sidney Lumet, la película se completó 3 semanas antes de lo previsto.
Al Pacino escuchó hablar por primera vez sobre el incidente en el que se basa la película mientras estaba ocurriendo. Más tarde, se quedó desconcertado por los reportajes y pensó que el protagonista de la noticia podría ser un papel perfecto para él.