Tahar Rahim a grandi dans le quartier des Résidences à Belfort au sein d'une famille modeste algérienne originaire d'Oran1,2,3. Durant son adolescence, il passe son temps dans les salles de cinéma. À ce propos, dans Libération Next, il déclare qu'il était « dans une semi-hypnose »4. Il fait ses études au lycée Condorcet de Belfort puis, après avoir « [perdu] deux ans en fac de sport puis de maths-informatique », il fait des études cinématographiques à l'Université Paul-Valéry de Montpellier5.

Pendant qu'il poursuit ses études à la faculté, il joue dans le docu-fiction de Cyril Mennegun, Tahar l'étudiant qui s’inspire4 largement de la vie du futur comédien. Après ses études de cinéma, il participe à la série évènement de Canal+, la Commune, puis fait une brève apparition dans le film À l'intérieur d'Alexandre Bustillo et Julien Maury, la même année. En 2006, il apparaît dans le clip Fallait que Je te dise du groupe Sniper.

Son premier grand rôle lui sera donné par Jacques Audiard en 2009 pour Un prophète qui lors de sa présentation au Festival de Cannes a reçu un accueil critique très favorable lors de sa projection de la part de la presse, notamment quant à sa performance d'acteur6,7,8. Il y joue le rôle de Malik, un jeune de 19 ans sans repères, qui se retrouve en prison pour 6 ans. Ce rôle lui vaut le Prix du meilleur comédien européen 2009 et le Prix Lumière du meilleur acteur en 2010. Il remporte surtout le César du meilleur espoir masculin et celui du meilleur acteur lors de la 35e cérémonie des César le 27 février 2010, doublé qui constitue une première pour cette institution.

En 2011, il débute une carrière internationale avec L'Aigle de la Neuvième Légion de Kevin Macdonald, puis après deux films d'auteur, joue avec Antonio Banderas dans Or noir de Jean-Jacques Annaud9.