McMahon se je rodil v Detroitu, svojo voditeljsko kariero pa je začel kot klicalec, ki vabi na karnevale, in voditelj binga. Na televizijo je prišel v petdesetih letih, leta 1958 pa se je v oddaji Who Do You Trust? prvič srečal z Johnnyjem Carsonom - Ed je kasneje postal slaven ravno zaradi napovedovanja Carsona v Tonight Showu, saj je še vedno legendarna njegova napoved: "Heeeeeeeres Johnny!", ki jo je nespremenjeno izgovarjal več kot trideset let.

Med letoma 1983 in 1995 je bil voditelj šova Star Search, od leta 1982 do 1998 sovoditelj serije TV Bloopers and practical Jokes, vodil je radijsko pogovorno oddajo Lifestyles Live, posnel številne reklame, preizkusil pa se je tudi kot filmski igralec (The Incident, Fun with Dick and Jane, Metulj, V objemu čarovnice).

Napisal je dve biografiji, Heres Johnny!: My Memories of Johnny Carson, The Tonight Show, and 46 Years of Friendship ter For Laughing Out Loud.

Poročen je bil trikrat, njegova zadnja žena je Pam Hurn. Imel je šest otrok, tri hčerke in tri sinove.