Kim je imao dva mandata kao premijer, od 1971. do 1975. i od 1998. do 2000.
Osnovao je zloglasnu južnokorejsku obavještajnu službu KCIA u doba Parkovog režima, koja je sudjelovala u represiji protivnika vlasti.
S Parkom je nakon ženidbe postao i rodbinski povezan, a služio je devet zastupničkih mandata.
U južnokorejsku politiku ušao je u dobi od 35 godina, sudjelujući u državnom udaru koji je vodio Park.
Park Čung-hee vladao je zemljom željeznom šakom sve dok nije ubijen 1979.
Za vrijeme prvog Kimovog premijerskog mandata, disident Kim Dae-jung kidnapiran je u egzilu u Tokiju 1973. Tajni dokumenti poslije su otkrili da je za otmicu bila odgovorna KCIA.
Uprkos tome, disident Kim Dae-jung je poslije sklopio savez iz koristi s Kim Jong-pilom kako bi pobijedio na predsjedničkim izborima 1997.
Kimovu ostavku na čelno mjesto ujedinjenih liberalnih demokrata 2004. u dobi od 78 godina južnokorejski mediji opisali su kao povijesni kraj doba "Tri Kima", a treći Kim bio je bivši predsjednik Kim Jong-sam.
