Будущий «итальянский жених» и «латинский любовник», как прозвали Мастроянни поклонницы, родился в горной деревушке, в семье бедного плотника. Родители и дети ютились в крошечной комнатушке, экономили каждую копейку, так что маленькому Марчелло пришлось рано освоить ремесленное мастерство. Он начал работать ещё подростком: в мастерской у отца, на стройке — во время Второй мировой войны он вынужден был какое-то время трудиться в одном из нацистских лагерей, откуда ему удалось сбежать в Венецию. После окончания войны Мастроянни вернулся в Рим и устроился на службу в кинопрокатную компанию. Свободное время он посвящал своему давнему увлечению — актёрской игре. Ещё ребёнком он дебютировал на сцене в любительском спектакле, поставленном в местном церковном приходе. Позднее участвовал в школьных и студенческих постановках, однако никогда не помышлял об этом, как о будущей карьере. Долгое время Мастроянни видел себя архитектором и прилежно постигал азы профессии в университете. Всё изменилось после встречи с Лукино Висконти, заметившим актёра в очередном любительском спектакле и пригласившим его в свой уже профессиональный театр «Элизео», основанный в Риме в 1946 году и просуществовавший 12 лет. Сам Мастроянни, не считавший себя ни красавцем, ни выдающимся артистом, недоумевал, что же такого смог разглядеть в нём великий режиссёр, однако учёбу всё же бросил.

Параллельно с работой в театре Мастроянни начал сниматься в кино. Первые роли в 40-х годах были эпизодическими, в 50-х появляются и главные, к примеру, в картине «Акт обвинения». Марчелло играл сплошь простых, ничем не примечательных итальянских парней. Первой поистине значимой картиной для него стал фильм Висконти «Белые ночи» (1957), экранизация одноимённой повести Фёдора Достоевского. Действие перенесено из Петербурга в Италию, Мастроянни в роли одинокого Марио, влюбившегося в русскую девушку Наталью. Её сердце, однако, отдано другому — год назад она встретила своего возлюбленного в пансионе у бабушки и обещала дождаться, когда он уехал на заработки. Фильм принёс Висконти победу в Венеции. Мастроянни наград не досталось, однако именно в этой роли — немного застенчивого, мечтательного героя, то бродящего задумчиво по туманным улицам, то отчаянно пускавшегося в пляс в под звуки рок-н-ролла — его заметил Федерико Феллини. Творческий союз с этим режиссёром сделал из Мастроянни звезду мирового масштаба.

Не последнюю роль в этой судьбоносной встрече сыграла супруга Феллини, актриса Джульетта Мазина, которой когда-то довелось играть с Мастроянни на подмостках студенческого театра. Следуя в том числе и её совету, режиссёр пригласил актёра на главную роль в фильме «Сладкая жизнь», вышедшем на экраны в 1960 году. Известно, что режиссёр на просьбу актёра дать прочесть сценарий показал Мастроянни не текст, а рисунок, изображающий его героя — человека, одиноко сидящего в лодке посреди моря в окружении сирен. Этого было достаточно, чтобы на экране появился репортёр Марчелло, ищущий себя на вечеринках «золотой молодёжи» 50-х годов и в объятьях первых красавиц и кинозвёзд, но так и остающийся в одиночестве и с чувством отчуждения. Продолжением темы и развитием этого образа стал и следующий совместный фильм Феллини и Мастроянни «Восемь с половиной» (1963) — история творческих исканий кинорежиссёра, который разгуливает посреди уже готовых к съёмкам декораций и предаётся сюрреалистическим воспоминаниям о детстве в поисках вдохновения. Дилогия Феллини стала вершиной не только его собственной фильмографии, но и ключевой точкой в карьере Мастроянни.

После «Сладкой жизни» актёр сыграл супруга Жанны Моро в картине Антониони «Ночь» (1961) и женоубийцу в комедии Пьетро Джерми «Развод по-итальянски» (1961) — эта роль принесла ему номинацию на «Оскар», а также премии «Золотой глобус» и BAFTA. На Мастроянни обратил внимание продюсер Карло Понти, один из самых влиятельных людей итальянского кинематографа того времени. В 1965 году актёр исполнил главную роль во всех трёх новеллах, из которых состоит картина «Сегодня, завтра, послезавтра», в 1968 появился в ещё одном продюсерском проекте Понти — мелодраме «Любовники» Витторио де Сики. На съёмках этой картины Мастроянни познакомился с американской актрисой Фэй Данауэй — они играли тех самых любовников, неизлечимо больную американскую художницу и её случайного знакомого итальянского инженера. Экранный роман перерос в реальный: по рассказам самого актёра, он влюбился в партнёршу после первого же поцелуя их персонажей перед камерой. Счастью мешало лишь одно обстоятельство — Мастроянни был женат.

Со своей супругой он познакомился ещё в конце 40-х: Флора Корабела была дочерью известного композитора, жила в шикарном доме и никогда ни в чём не нуждалась. Такая роскошь произвела на юного Мастроянни, привыкшего к нищенскому существованию и вечной нехватке не только денег, но и еды, огромное впечатление. Они поженились, и всю оставшуюся жизнь актёр отзывался о своей супруге, как о самой доброй и заботливой женщине в своей жизни — однако о любви речи никогда не шло. Флора, сперва ревновавшая мужа к его партнёршам, постепенно смирилась и терпела все романы Мастроянни, он же неизменно возвращался к ней после очередного расставания. Данауэй бросила Мастроянни из-за его неготовности развестись, а вот Катрин Денёв, роман с которой у актёра начался на съёмках картины Надин Трентиньян «Это случается только с другими» (1971), сама не приняла предложение Мастроянни. Ради француженки Мастроянни попросил у жены развод, однако Денёв всё равно ответила отказом. Их отношения продолжались не один год, но так и не завершились свадьбой, даже несмотря даже на то, что актриса родила Мастроянни дочь Кьяру.

Приписывали актёру и роман с Софи Лорен, с которой они, благодаря всё тому же Карло Понти — супругу актрисы, снялись сразу в нескольких успешных для обоих фильмах. В 1963 году на экраны вышла комедия де Сики «Вчера, сегодня, завтра», где Лорен и Мастроянни играют влюблённых в трёх разных новеллах, в 1964 они же исполнили главные роли в «Браке по-итальянски», снятом всё тем же де Сикой по пьесе Эдуардо де Филлипо «Филумена Мартурано».

Комедии и мелодрамы чередуются в фильмографии Мастроянни с драматическими работами. Та самая «заурядная» внешность, умение играть внешнюю и внутреннюю отстранённость как нельзя лучше подошли для роли в экранизации романа Альбера Камю «Посторонний», снятой Висконти в 1967 году. Его Мерсо — равнодушный, апатичный, не реагирующий ни на что герой, без эмоций, на одной ноте переживающий экзистенциальный кризис.

В 70-х Мастроянни продолжил работу с Феллини: сперва в автобиографической ленте режиссёра «Рим» (1972), позже в «Городе женщин» (1980) и картине «Джинджер и Фред» (1985). Последний раз Феллини и Мастроянни встретились на съёмочной площадке фильма «Интервью» в 1987 году. Здесь он сыграл самого себя, известного актёра, раздающего интервью журналистам, вспоминающего о знакомстве с Феллини. Режиссёр также здесь предаётся воспоминаниям о работе на студии «Ченечита» в 50-х годах, ставших «золотым веком» итальянского кино. По сюжету этого постановочного, игрового фильма, где репортёров играют всё же актёры, и в то же время документальной ленты-воспоминания, Мастроянни и Феллини отправляются в гости к актриса Аните Экберт. Она сыграла когда-то одну из ролей в «Сладкой жизни» — собравшись вместе, все трое вспоминают в том числе, как хулигански купались в фонтане Треви на съёмках одной из знаменитых сцен. В день смерти Мастроянни в 1996 году фонтан, ставший благодаря фильму одним из символов Рима и итальянского кино, был отключён и завешен чёрной траурной тканью.​