Poul Kjærholm sa narodil 8. januára 1929 v dánskom mestečku Østervrå, na severe Jutska. Vyučil sa tesárom, v roku 1952 začal študovať Danish School of Arts and Crafts v Kodani. O rok neskôr sa oženil s Hanne Kjærholm, ktorá sa stala úspešnou architektkou.
Mal záujem o rôzne materiály, najmä potom oceľ, ktorú považoval za prírodný materiál s rovnakou umeleckou hodnotou, ako ostatné prírodné materiály. Rok bol zamestnaný vo firme Fritz Hansen, kde navrhol rad pozoruhodných prototypov stoličiek.
V roku 1955 Poul Kjærholm začal spolupracovať s výrobcom nábytku Ejvind Koldo Christensen, ktorá trvala až do jeho smrti v roku 1980. V roku 1958 získal celosvetovú pozornosť svojím príspevkom na výstave „Formes Scandinaves“ v Paríži. Dostal tiež legendárnu Lunningovu cenu za svoje kreslo PK22, ďalej v roku 1957 a 1960 získal cenu Grand Prix na Triennale v Miláne.
Po smrti Poul Kjærholma prevzala v roku 1982 firma Fritz Hansen exkluzívne výrobu a predaj nábytku „The Kjærholm Collection“, vyvinutú v rokoch 1951 až 1967. Táto exkluzívna výroba pokračuje dodnes.