Nielsen je več kot šestdeset let nastopal v filmskih in TV-produkcijah. V 50. letih je prišel v Hollywood, potem ko je že v New Yorku delal kot igralec. 188 centimetrov visoki Kanadčan je najprej igral francoskega kralja v Kralju potepuhov –produkcija ni bila uspešna, toda čednega igralca z lasmi, ki so se že zgodaj pobelili, so še naprej angažirali – kot romantičnega junaka, a tudi za resne vloge. Igral je vojaka, predsednika, mafijskega šefa. Vendar s tem ni zaslovel.
Sin policista iz kanadskega mesta Regina, rojen leta 1926, je dočakal veliki uspeh s kultno komedijo Ali je pilot v letalu? (1980). Do vloge zdravnika na letalu, v katerem pilot in potniki nenadoma hudo zbolijo, ni nikoli dobil svojemu tipu primerne vloge, je povedal Nielsen v nekem intervjuju. Igrati v komedijah je bilo od nekaj tisto, kar si je resnično želel delati.
Po uspehu komedije Ali je pilot v letalu? je Nielsen dobil vlogo nerodnega policista Franka Drebina v humoristični seriji Police Squad (1982). Toda serija, ki se je norčevala iz klasičnih policijskih serij, je pogorela in so jo samo po šestih epizodah ukinili. Ni bila primerna za televizijo, je povedal Nielsen pozneje o seriji. Imela je humor, ki si mu moral posvetiti pozornost. Res so se ustvarjalci serije odločili, da jo bodo spremenili v film. Leta 1988 je prišla na velika platna komedija Gola pištola z Nielsenom v vlogi policista Franka Drebina. Svojo paradno vlogo je Kanadčan igral še leta 1991 in 1994 v dveh nadaljevanjih. Med Nielsenove poznejše filme štejejo Drakula: Smrt in ljubezen (1995), Tajni agent 000 (1996) ter Film, da te kap (tretji in četrti del; 2003, 2006). Lani je komik igral še v parodiji na grozljivke Stan Helsing.
Prizor iz filma Gola pištola: