Né en 1926 dans le Saskatchewan, ce fils d'un officier de la police montée avait effectué son service militaire dans l'armée de l'air avant d'étudier la comédie à Toronto et à New York.

Nielsen s'est fait connaître grâce à ses apparitions dans les séries télévisées américaines à succès telles que «Peyton Place», «Dr Kildare», «Le Fugitif», «Kojak» ou «M.A.S.H.».

Il a acquis une célébrité internationale grâce à quelques films- cultes comme «Y a-t-il un pilote dans l'avion?» (1980), puis la