Le club remonte de deux divisions en deux ans avec un effectif presque inchangé, retrouvant la Ligue 1 en 2003. Après deux saisons de stabilisation en L1 et un nouveau recrutement (Laurent Battles, Bryan Bergougnoux, Stéphane Dalmat, Daniel Moreira, entre autres), le TFC annonce viser une place durable dans le haut du tableau à court terme et la qualification pour l'Europe à moyen terme.
Lors de la saison 2005-06, le club est éliminé de toutes les coupes nationales et terminant (16e) en Ligue 1.
Élie Baup s'engage au poste d'entraîneur pour trois ans en mai 2006 en remplacement d'Erick Mombaerts, actuellement sélectionneur de l'équipe de France espoir, puis le président Olivier Sadran recadre les ambitions du club à la baisse et fixe l'objectif 2006-07 « entre la huitième et la douzième place » en Championnat.
Après un excellent début de saison suivi d'une nette baisse de régime à l'automne, Toulouse réalise une phase retour fracassante, la meilleure avec celle de Marseille. Au Stadium, le TFC bat un rival direct, Bordeaux (3-1), grâce à un triplé du Suédois Johan Elmander. Le TFC est en Ligue des Champions !
Pour le retour en Coupe d'Europe et pour le premier match de Ligue des Champions de l'histoire du club, le TFC a le malheur de rencontrer en août 2007 un géant européen, le Liverpool FC. Après un match aller perdu 0-1 au Stadium, le TFC sombre quinze jours plus tard 4-0 à Anfield dans un match à sens unique.
Reversé en Coupe de l'UEFA, le TFC élimine très difficilement le FK CSKA Sofia (0-0 au Stadium, puis 1-1 à Sofia avec un but inespéré à la 96 ème minute du match retour), et se retrouve dans un groupe de qualification composé du Bayer Leverkusen, du FC Zurich, du Sparta Prague et du Spartak Moscou. Avec une série de trois défaites amères, le TFC est éliminé. Le club remporte toutefois pour l'honneur le quatrième match de poule contre le Spartak Moscou (2-1), sa première victoire en Coupe d'Europe depuis plus de vingt ans.
En Championnat, le TFC continue sur la lancée de la saison précédente. Grâce notamment à l'excellente forme de son gardien Cédric Carrasso et l'éclosion d'un buteur de classe internationale, André-Pierre Gignac, le TFC termine en quatrième position lors de la saison 2008-2009, et se qualifie pour l' Europa League.
