У 1891 годзе Кук стаў членам заканадаўчага сходу Новага Паўднёвага Уэльса. У той час ён прадстаўляў лейбарысцкую партыю, раскол у якой адбыўся ўжо ў 1893 годзе. Прычынай расколу быў свабодны гандаль. Джозеф Кук стаў лідарам фракцыі свабоднага гандлю і пакінуў партыю ў 1894 годзе. Разам з тым ён захаваў сваё месца ў заканадаўчым сходзе, акрамя таго, у яго быў міністэрскі партфель ва ўрадзе Джорджа Рэйда. У 1901 годзе Кук сышоў у федэральную палітыку.
Джозеф Кук заставаўся ў федэральнай палітыцы 20 гадоў. Ён прадстаўляў выбарчую акруга Парамата ў заканадаўчым сходзе краіны. За гэты час ён быў міністрам абароны ў 1909-1910 гадах (пры Альфрэдзе Дыкіне), другім чалавекам у апазіцыі ў 1910-1913 гадах. Пасля гэтага ён змяніў Альфрэда Дыкіна на пасадзе лідара ліберальнай партыі і выйграў выбары ў маі 1913 года з перавагай у адно крэсла. 8 чэрвеня 1914 генерал-губернатар распусціў урад Джозефа Кука, так як паўсталі рознагалоссі па адным з законапраектаў. Фармальна Кук заставаўся на пасадзе да 17 верасня, калі яго змяніў Эндру Фішэр. За гэты час пачалася Першая сусветная вайна.
Знаходзячыся ў апазіцыі, Кук падтрымліваў ваенныя рэформы Фішэра і Х'юза, што прывяло да зліцця партый 7 лютага 1917 г. Пасля гэтага Кук стаў намеснікам прэм'ер-міністра. Кук суправаджаў Х'юза на мірнай канферэнцыі і падпісанні Версальскага дагавора ў 1919 годзе. З красавіка па верасень 1921 г. Кук выконваў абавязкі прэм'ер-міністра.
З 1921 па 1927 Кук займаў пасаду вярхоўнага камісара Аўстраліі ў Лондане, пасля гэтага вярнуўся ў Сідней.