39 år gammel ble Joe Clark Canadas yngste statsminister i 1979. En finanspolitisk konservativ, Joe Clark, og hans minoritetsregjering ble beseiret etter bare ni måneder med makten på en ikke-tillitsbevegelse om et budsjett med skatteøkninger og programkutt.
Etter å ha tapt valget i 1980 ble Joe Clark fortsatt som opposisjonsleder. Da Brian Mulroney overtok som leder for det progressive konservative partiet i Canada i 1983 og deretter statsminister Minister i 1984, fortsatte Joe Clark som en effektiv minister for eksterne forbindelser og statsråd for konstitusjonelle Departementet. Joe Clark forlot politikken i 1993 for å jobbe som en internasjonal forretningskonsulent, men kom tilbake som leder for det progressive konservative partiet fra 1998 til 2003.
Joe Clark begynte sin politiske karriere som Director of Organization for Alberta Progressive Conservative Party fra 1966 til 1967. Han var spesialassistent for et konservativt parlamentsmedlem Davie Fulton i 1967. Han fungerte som administrerende assistent for et konservativt parlamentsmedlem Robert Stanfield fra 1967 til 1970.
Joe Clark ble først valgt inn i Underhuset i 1972. Han ble valgt som leder for det progressive konservative partiet i Canada i 1976 og var leder av opposisjonen til 1979. Joe Clark ble sverget inn som Canadas statsminister etter stortingsvalget 1979.
Den konservative regjeringen ble beseiret i 1980. Joe Clark var igjen leder av opposisjonen fra 1890 til 1983. Joe Clark kalte et lederskonvensjon for det progressive konservative partiet og mistet partiledelsen for Brian Mulroney i 1983.
I Mulroney-regjeringen tjente Joe Clark som utenriksminister fra 1984 til 1991. Han var president i Privy Council og minister ansvarlig for konstitusjonelle saker fra 1991 til 1993. Joe Clark hadde ikke valg i stortingsvalget i 1993.
Joe Clark kom tilbake som leder for det progressive konservative partiet i Canada i 1998. Han ble gjenvalgt til Underhuset i 2000. I 2002 sa Joe Clark at han hadde båret det progressive konservative partiet så langt han kunne. Joe Clarks fratredelse som leder for det progressive konservative partiet var effektiv på lederkonferansen i mai 2003.