Il débute très tôt sa carrière artistique dans le monde du cirque et du cabaret en y étant à la fois clown, acrobate et dompteur de fauves. Il effectue aussi une carrière honorable dans leculturisme qui lui permet de développer un physique imposant dont il tirera avantageusement parti dans la suite de sa carrière. Habitué aux seconds rôles, il endosse souvent le rôle du truand candide, de la brute naïve, de la force de la nature au cœur tendre. Robert Dhéry l'engage dans sa célèbre troupe des Branquignols et, en 1954, Robert Hossein l'engage à son tour auThéâtre du Grand Guignol. À la télévision, on le verra dans Les Cinq Dernières Minutes de Claude Loursais, dans Vidocq de Marcel Bluwal, dans La Tête des autres, de Raymond Rouleau, ou Les Saintes chéries de Jean Becker et dans Les Dossiers secrets de l'inspecteur Lavardin de Claude Chabrol. C'est surtout au cinéma qu'il deviendra une figure populaire grâce à ses nombreuses apparitions dans des seconds rôles, notamment aux côtés de Louis de Funès. On retient son apparition dans Oscar, d'Édouard Molinaro, où il se livre à une démonstration de pectoraux et triceps savoureuse. Il y incarne Philippe, le masseur un peu benêt et naïf, rôle qu'il tint d'abord au théâtre dans la pièce éponyme dès la mise en scène de Jacques Mauclair en 1958, puis de nouveau en 1971. Il collaborera avec Robert Hossein dans la mise en scène théâtrale des grands moments de la Révolution française. Il était marié à Françoise Cornu, avec qui il eut une fille prénommée Elisa. Mario David meurt d'une embolie pulmonaire à l'Hôpital de la Pitié-Salpêtrière à Paris. Il est inhumé au cimetière du Louyat de Limoges (6e section).