A los 19 años, Elba empezó a hacerse con papeles protagonistas en varias obras de la escena teatral londinense, consiguiendo elogiosas críticas por sus actuaciones. A los 24, Elba era un puntal de la televisión británica, y protagonizaba algunas de las series con mejores críticas de la BBC: "Dangerfield ", "Bramwell" y "Ultraviolet". Su trabajo en el cine europeo le permitió actuar junto a la legendaria Catherine Deneuve en Belle Maman.

A pesar del éxito constante del que Elba disfrutaba, empezó a sentirse constreñido por el tipo de papeles que le ofrecían en el Reino Unido, y pensó que había mejores oportunidades que explorar en Estados Unidos. En 2000, "Ultraviolet" fue adquirida por Fox Television para su adaptación a los Estados Unidos. Aunque el piloto no se incluyó en la programación de otoño, ofreció a Elba la gran oportunidad de entrar en el mercado americano que estaba esperando. En Nueva York, protagonizó la producción de Sir Peter Hall en el circuito de off-Broadway "Troilus and Cressida", considerada una de las obras más complicadas de Shakespeare. Elba recibió estupendas críticas por su interpretación de Aquiles. Poco después, consiguió un papel en la exitosa serie de televisión de Dick Wolf "Ley y orden".