Nacido y criado en Tipton, Missouri, Koechner estudió ciencias políticas en la Universidad de Missouri. En vez de trabajar en el negocio familiar, la fabricación de gallineros para pavos, se mudó a Chicago al graduarse para estudiar improvisación teatral y cómica bajo la tutela del maestro de la improvisación Del Close. Una temporada en el Teatro Second City de Chicago le llevó a un golpe de suerte cuando el creador de SNL, Lorne Michaels, descubrió sus talentos. Después, Koechner consiguió un papel en "Late Night With Conan O Brien" .