En su juventud, Barrichello demostró ser un piloto con excelente condiciones, al ganar 5 títulos de karting en su tierra natal antes de partir hacia Europa a competir en la serie Lotus en 1990. Obtuvo el título en su primer año en la categoría, logro que volvería a repetir el siguiente año en la Fórmula 3 Británica, superando a un joven escocés llamado David Coulthard.
Rubens (o Rubinho, como muchos lo llaman) estuvo cerca de incorporarse a la Fórmula 1 a los 19 años, pero finalmente optó por competir en la Fórmula 3000. En esa ocasión, no alcanzó el título, pero un sólido tercer puesto en el campeonato le valió la contratación de Jordan Grand Prix para correr en la máxima categoría.

Barrichello tuvo una buena temporada en su año como debutante, pues a pesar de obtener sólo dos puntos llegó a estar tercero en el Gran Premio de Europa cuando una avería en la bomba de combustible forzó su abandono. A lo largo de todo el año, el piloto logró mejores resultados que muchos otros conductores con más experiencia.

Su manejo mejoraba en 1994, hasta que su carrera casi se vio interrumpida por un accidente en el Gran Premio de San Marino de 1994, durante las prácticas. Los médicos le salvaron su vida, pero su vida no volvería a ser la misma tras la muerte de su mentor Ayrton Senna dos días más tarde. A pesar de que Barrichello no se recuperó del todo en esa temporada, obtuvo la pole position en el Gran Premio de Bélgica, el piloto más joven en obtener ese logro. Dadas las circunstancias vividas, el 6º puesto obtenido en el campeonato de pilotos fue más que respetable.

Tras dos años en circunstancias similares, su relación con Eddie Jordan se deterioró, y el brasileño partió hacia la flamante escudería Stewart Grand Prix en 1997. Tras luchar con un auto mediocre sus dos primeros años en el equipo de Jackie Stewart, obtuvo el 7º lugar en el campeonato de 1999. Esto convenció a la Scuderia Ferrari para contratar sus servicios como piloto nº2 junto al alemán Michael Schumacher.