Fils d'un professeur à l'École des Ponts et Chaussées, Michel Galabru, baccalauréat en poche, s'inscrit au Conservatoire national d'art dramatique de Paris. Il en ressortira avec deux premiers prix. Pensionnaire à la Comédie-Française en 1950, Michel Galabru y joue les classiques -Molière, Marivaux, Feydeau, Courteline- avant de quitter cette institution en 1958.

Il triomphe alors dans des oeuvres du répertoire et surtout du théâtre de boulevard. Parmi ses principaux succès, on peut citer "La claque" (André Roussin), "L'entourloupe" et "Monsieur Amédée" (Alain Reynaud-Fourton)", mais aussi "La femme du boulanger" (Marcel Pagnol), "Don Juan" ou "Le bourgeois gentilhomme" (Molière).

En 2008, il obtient à 85 ans le premier Molière de sa carrière pour son rôle dans "Les chaussettes opus 124", où il interprète avec génie un vieil acteur cabot qui tente un come-back.

Parallèlement, il mène une carrière au cinéma, à partir de 1951. Il fait ses débuts dans "Ma femme, ma vache et moi" (Jean-Devaivre). Son interprétation de l'adjudant Gerber dans la série des "Gendarmes" le fait connaître à partir de 1964 d'un très large public.

Il tourne avec Georges Lautner, Michel Audiard, Claude Zidi, Pierre Tchernia. Acteur prolifique, Michel Galabru joue dans quelque 200 films, dont beaucoup de nanards, mais aussi des films plus ambitieux, où il est dirigé par Jean-Pierre Mocky, Luigi Commencini, Bertrand Blier ou Costa-Gavras.