Attiré par le métier de marionnettiste, Aurélien Recoing prend des cours d'art dramatique sur les conseils de son père. Inscrit au cours Florent en 1974, il intègre ensuite, au bout de trois tentatives, le Conservatoire, à l'âge de 19 ans. Le comédien joue dans plus d'une trentaine de pièces de théâtre, mettant aussi en scène des oeuvres de Thomas Bernhard ou Paul Claudel. En 1989, il obtient le Prix Gérard Philipe.
C'est en 1980 qu'Aurélien Recoing fait ses premiers pas au cinéma, dans Les Exploits d'un jeune Don Juan. Attiré par le cinéma d'auteur, il travaille avec Garrel (Les Baisers de secours), Zulawski (La Fidélité) ou encore Laurence Ferreira Barbosa (La Vie moderne, dans lequel il campe le mari d'Isabelle Huppert). Aperçu également chez Francis Girod, l'acteur accède à la reconnaissance en 2001 grâce à L'Emploi du temps de Laurent Cantet. Dans ce film librement inspiré de l'Affaire Romand, il incarne avec une troublante opacité Vincent, un homme qui s'invente une vie sociale pour cacher à ses proches son licenciement.
De plus en plus sollicité, Aurélien Recoing trouve des petits rôles dans des films grand public comme Tais-toi ! ou Cette femme-là, et incarne des personnages forts et complexes dans des films d'auteur confidentiels (L' Ennemi naturel, Orlando Vargas). Prenant part à nombre de projets atypiques, il campe en 2006 un des joueurs de 13 tzameti, le thriller en noir et blanc de Gela Babluani et apparaît dans Pardonnez-moi, le home movie trash de Maïwenn, ainsi que dans le film de zombie La Horde. Dans le genre policier, on retrouve l’acteur dans la Contre-enquête menée par Jean Dujardin en 2007, puis dans le Diamant 13 de Gilles Béhat.
L'acteur à la silhouette imposante se retrouve la même année plongé dans la France de 1914 (Les Fragments d'Antonin) et croisera par deux fois la guerre d’Algérie dans le téléfilm Nuit noire d'Alain Tasma et dans le film de guerre de Florent Emilio Siri, L'Ennemi intime. En 2010, il joue aux côtés de Jacques Dutronc dans Joseph et la fille. Il retrouve également Jean-Pierre Martins, son coéquipier de La Horde, dans la comédie L'Etranger de Franck Llopis.
En mai 2010, l'acteur est engagé comme pensionnaire à la Comédie Française. Désormais crédité comme tel au générique des films dans lesquels il tourne, on le retrouve aussi bien à l'affiche du film d'action Switch de Frédéric Schoenderffer que de la comédie Mon Pire Cauchemar d'Anne Fontaine. L'acteur tourne également pour la télévision, notamment dans des téléfilms historiques à l'image du Métis de Dieu où il incarne Jean-Paul II ou Marcel Dassault l'homme au pardessus, évocation de la vie du célèbre ingénieur français interprété ici par Denis Lavant.
Aurélien Recoing quitte la Comédie française en juillet 2012 et enchaîne avec le tournage du film culte La Vie d'Adèle d'Abdellatif Kechiche dans lequel il incarne le père de l'héroïne jouée par Adèle Exarchopoulos. A la télévision, il interprète l'un des rôles principaux de la série Trepalium et fait également une apparition dans la série britannique Flemming, l'homme qui voulait être James Bond. Ses prochains rôles lui permettent de s'illustrer de nouveau dans le registre du cinéma d'auteur français qu'il connaît bien puisqu'il sera à l'affiche de trois films : Malgré la nuit de Philippe Grandrieux, La Vie Pure de Jérémy Banster et Des Pierres en ce jardin de Pascal Bonnelle.