في سن 39 ، أصبح جو كلارك أصغر رئيس وزراء كندا في عام 1979. محافظ مالي ، جو كلارك ، و حكومة الأقلية هُزِمَت بعد تسعة أشهر فقط في السلطة على اقتراح عدم الثقة بميزانية زيادة الضرائب وتخفيضات البرنامج.
بعد خسارته انتخابات 1980 ، ظل جو كلارك زعيما للمعارضة. عندما تولى برايان مولروني رئاسة حزب المحافظين التقدمي في كندا عام 1983 ثم رئيسًا وزير في عام 1984 ، استمر جو كلارك كوزير فعال للعلاقات الخارجية ووزير للدستور أمور. غادر جو كلارك السياسة في عام 1993 للعمل كمستشار أعمال دولي ، لكنه عاد كزعيم حزب المحافظين التقدميين من 1998 إلى 2003.
بدأ جو كلارك حياته السياسية كمدير لمنظمة حزب ألبرتا التقدمي المحافظ من 1966 إلى 1967. كان مساعدًا خاصًا لعضو المحافظين في البرلمان ديفي فولتون في عام 1967. شغل منصب مساعد تنفيذي لعضو المحافظ في البرلمان روبرت ستانفيلد من 1967 إلى 1970.
تم انتخاب جو كلارك لأول مرة في مجلس العموم عام 1972. انتخب زعيما لحزب المحافظين التقدمي في كندا عام 1976 وكان زعيما للمعارضة حتى عام 1979. أدى كلارك اليمين الدستورية كرئيس وزراء كندا بعد الانتخابات العامة عام 1979.
هُزمت الحكومة المحافظة عام 1980. جو كلارك كان زعيم المعارضة مرة أخرى من عام 1890 إلى 1983. دعا جو كلارك مؤتمر قيادة حزب المحافظين التقدمي وخسر قيادة الحزب لبريان مولروني في 1983.
في حكومة مولروني ، شغل جو كلارك منصب وزير الشؤون الخارجية من عام 1984 إلى عام 1991. كان رئيس مجلس الملكة الخاص والوزير المسؤول عن الشؤون الدستورية من 1991 إلى 1993. لم يخوض جو كلارك في الانتخابات العامة لعام 1993.
عاد جو كلارك كزعيم حزب المحافظين التقدمي الكندي في عام 1998. أعيد انتخابه لمجلس العموم عام 2000. في عام 2002 ، قال جو كلارك إنه حمل حزب المحافظين التقدميين قدر الإمكان. كانت استقالة جو كلارك كزعيم حزب المحافظين التقدمي فعالة في مؤتمر القيادة في مايو 2003.