Його батько, Юзеф Вінцент Пілсудський, брав участь у польському Січневому повстанні 1863 року проти Російської імперії, після чого сім’я зазнала переслідувань та втратила більшу частину своїх маєтків. Мати, Марія Пілсудська (з дому Білецька), була високоосвіченою жінкою та виховувала дітей у дусі патріотизму, розповідаючи їм про героїчну боротьбу Польщі за незалежність.

Юзеф зростав у багатодітній сім’ї (всього було 12 дітей). Він з ранніх років був оточений атмосферою ненависті до російського панування, що значною мірою вплинуло на його майбутні погляди.

Дитячі роки, проведені в атмосфері польського національного спротиву, патріотичного виховання матері та переслідувань царською владою, сформували Пілсудського як затятого борця за незалежність Польщі. Уже в молодості він зрозумів, що єдиний шлях до свободи — це збройна боротьба.

Він проявляв здібності до гуманітарних наук, особливо історії та літератури, але мав складний характер, часто сперечався з учителями. У гімназії познайомився з соціалістичними ідеями та польським національним рухом, що згодом визначило його революційну діяльність.

Після повернення із заслання в 1892 році Пілсудський повністю присвятив себе політичній боротьбі, зокрема соціалістичному та незалежницькому руху. Не маючи змоги завершити формальну освіту, він займався самоосвітою, вивчаючи:

• Військову стратегію та тактику (особливо праці Наполеона та Клаузевіца).

• Європейську політику та історію Польщі.

• Соціалістичні ідеї, що привели його до участі в Польській соціалістичній партії.

Він вважав, що головне – не диплом, а дія, тому замість академічної кар'єри обрав шлях революціонера та політика.

Юзеф Пілсудський не здобув вищої освіти, але його самоосвіта, гімназійні знання та досвід заслання сформували його як політичного лідера. Його навчання було більше практичним: у боротьбі, книгах і реальних подіях, що визначило його майбутню роль у відродженні Польщі.

За рапортами начальника Варшавського охоронного відділення (таємної поліції Росії) П. Заварзіна, школа масово готувала вбивць та грабіжників. На початку 1900-х мешкав у Львові, Лондоні та Токіо, де намагався встановити контакти з японською розвідкою. Під час революції 1905—1907 років у Російській імперії керував бойовими групами, що займались підготовкою і проведенням терористичних акцій

У 1906 виступив одним з ініціаторів створення ППС-революційної фракції. У 1908 році Пілсудський заснував у Галичині Союз активної боротьби, який у 1910 створив у Львові легальну воєнізовану організацію «Стрілецьку спілку».

У квітні 1919 року перекинув на український фронт армію генерала Юзефа Галлера, яка призначалась Антантою винятково для ведення воєнних дій проти більшовиків. Поставши перед загрозою широкомасштабної війни з РСФРР, Пілсудський, з метою сформування спільного антибільшовицького фронту, підтримував Симона Петлюру в боротьбі проти Радянської Росії. Уклав Варшавський договір 1920. У квітні 1920 року Пілсудський став першим маршалом Польщі. Вів польсько-радянську війну 1920 року і уклав Ризький мирний договір 1921 року.

У 1920 році, використавши ситуацію, Пілсудський змусив місію УНР у Варшаві підписати союз, але водночас обмежив її армію до трьох дивізій. Польща прагнула встановити контроль над Правобережною Україною, зводячи УНР до залежного сателіта. Проте похід на Київ провалився, і в 1921 році Москва та Варшава уклали мир, поділивши Україну та Білорусь.

У міжвоєнний період Пілсудський орієнтувався на співпрацю з Великою Британією та порозуміння з Німеччиною, головним противником вважаючи СРСР.

У міжнародній політиці Пілсудському вдалося досягти відносної нормалізації відносин з Радянським Союзом (Пакт про ненапад від 25 липня 1932 року), але при цьому він вважав ненадійною таку угоду і шукав опори у західних союзників (Франції та Великої Британії) і в сусідів — Румунії та Угорщини.

Після закінчення російсько-японської війни Пілсудський знайшов нових спонсорів. 29 вересня 1906 року у Пшемислі він зустрівся з австрійським полковником Францом Каником і запропонував шпигунські послуги проти Росії в обмін на підтримку у створенні складів зброї, військових тренувань та нелегального переходу кордону. У листопаді 1908 року він особисто брав участь у пограбуванні поштового поїзда біля Бездан, де було захоплено 200 000 рублів.

Влітку 1908 року Пілсудський встановив агентурні зв’язки з майором австрійського штабу Густавом Ішковським, а в 1910 році отримав дозвіл на створення організації «Союз стрільців». У 1916 році Німеччина та Австро-Угорщина проголосили незалежність Польщі, а Пілсудський організував легіон, що воював на боці Німеччини.

З одного боку, він використовував будь-які методи для досягнення цілей, виправдовуючи їх інтересами Польщі. З іншого – його політика часто йшла врозріз із прагненнями інших народів, зокрема українців. Його співпраця з Японією, Австро-Угорщиною та Німеччиною ставить питання про мотиви та моральність його дій.