Podczas I wojny światowej organizował oddziały zbrojne - zalą. Rzekł przyszłej armii polskiej. Początkowo prowadził niezależną akcję na ziemiach polskich podległych Rosji, po niej musiał podporządkować się władzom Austrii, w wyniku czego powstały Legiony Polskie. Osobiście dowodził I Brygadą Legionów i na jej czele stoczył z Rosjanami wiele bitew, zdobywając sobie sławę wskrzesiciela polskiej armii. Równocześnie zaczął tworzyć i kierować konspiracyjną organizacją POW (Polska Organizacja Wojskowa).
Józef Piłsudski walcząc z legionami u boku armii austriackiej, konsekwentnie domagał się od Niemiec i Austrii utworzenia niezawisłego rządu polskiego. W 1917 r. po odmówieniu złożenia przysięgi przez polskich żołnierzy na wierność Austrii i Niemiec Józef Piłsudski zostaje aresztowany i osadzony przez Niemców w twierdzy w Magdeburgu. Przebywa tam do listopada 1918 r. W tym czasie rodzi się Piłsudskiemu pierwsza córka Wanda ze związku z Aleksandrą Szczerbińską - towarzyszką życia Komendanta jeszcze sprzed I wojny. Dwa lata później przychodzi na świat druga córka - Jadwiga. Po klęsce Niemiec - Piłsudski wraca w listopadzie 1918 r. do Warszawy obejmując urząd Naczelnika Państwa. W latach 1919-1920 skupił się  na obronie zdobytej przez Polskę niepodległości. Jako Naczelny Wódz wojsk polskich przeprowadził Piłsudski zwycięską wojnę z bolszewicką Rosja, kończąc walkę pokojem w Rydze. Od 1920 r. był marszałkiem Polski. W 1922 r. po wyborze Gabriela Narutowicza na prezydenta złożył urząd Naczelnika Państwa a w następnym roku zrezygnował ze wszystkich funkcji wojskowych. Rozczarowany kierunkiem, w jaki zmierzała demokracja w Państwie, odsunął się od życia politycznego i zamieszkał w Sulejówku pod Warszawą razem z żona Aleksandrą, którą polubił w 1921 r. po śmierci Marii Piłsudskiej oraz z córkami. W maju 1926 r. niezadowolony z istniejących w Państwie stosunków, zaniepokojony pogarszająca się stale sytuacja ekonomiczną i polityczną Polski, stanął na czele wiernych mu oddziałów wojskowych i przejął władzę, zmuszając do ustąpienia z urzędu prezydenta Wojciechowskiego i premiera Witosa. Od tej chwili wywierał decydujący wpływ na wszystkie ważniejsze zagadnienia polityczne w Polsce sprawując bez przerwy urząd Generalnego Inspektora Sił Zbrojnych oraz Ministra Spraw Wojskowych. Pełnił również dwukrotnie urząd premiera (w latach 1926-28 i 1930r.). Wobec rosnącego zagrożenia zewnętrznego i anarchizacji życia wewnętrznego ograniczył uprawnienia Sejmu. Starał się utrzymać samodzielne miejsce Polski w polityce międzynarodowej - domagał się zawarcia paktu o nieagresji z ZSRR (1932) i Niemcami (1934), próbując jednocześnie wzmocnić pozycję Polski wobec sojuszników zachodnich. Wiosną 1935 r. u mającego od wielu lat kłopoty ze zdrowiem Marszałka stwierdzono raka wątroby. 12 maja 1935 roku Józef Piłsudski umiera. Został pochowany na Wawelu, serce zaś - zgodnie z Jego ostatnią wolą - spoczęło w grobie matki na wileńskim cmentarzu na Rossie.