Nacque verso il 1450, probabilmente nei dintorni di Saint-Quentin, in Piccardia. Fu adottato nel 1466 dalla famiglia degli zii Lebloitte, che avevano Desprez come soprannome di famiglia, a Condé-sur-l'Escaut, dove il compositore trascorrerà  gli ultimi vent'anni della sua vita. E' accertato che non fosse nato a Condé, dal momento che l'atto di morte, redatto proprio a Condé, lo dichiara aubain, cioè straniero. Studiò a Saint-Quentin, dove era fanciullo cantore presso la basilica reale. Il primo impiego di cui abbiamo notizia certa è ad Aix-en-Provence tra il 1477 e il 1478, come cantore della cappella di Renato d'Angiò.
Tra il 1483 e il 1484, entrò a servizio della corte milanese degli Sforza: al seguito del cardinale Ascanio Sforza, fu probabilmente a Roma nel 1484-85 e a Parigi nel 1489. Formalmente, il compositore era "cantore ducale", cioè al servizio del giovane duca Gian Galeazzo Sforza, ma di fatto il governo del ducato era fermamente nelle mani di Ludovico il Moro, fratello maggiore del duca e reale patrono di Josquin.
Tra 1489 e il 1495 circa, Josquin prestò servizio presso la cappella pontificia a Roma. Dopo alcuni viaggi in Francia, si trasferì per un certo periodo a Ferrara per servire Ercole I d'Este. Per lui scriverà la messa Hercules dux Ferrarie il cui tenor è tratto dalle vocali del nome del committente. Dopo il 1505 si trasferì in Francia, non smettendo comunque di viaggiare. Morì a Condré-sur-l'Escaut nel 1521.

Autore di una ventina di messe, composte secondo varie tecniche e basate anche su musiche profane come la celebre melodia L'homme armé, un centinaio di mottetti, oltre 50 opere vocali profane in francese e italiano, Desprez fu punto di riferimento per tutti i contemporanei e oltre, fino ad essere elogiato anche da Lutero, Palestrina e Orlando di Lasso. La sua importanza è indicata anche dal fatto che lo stampatore Ottaviano Petrucci dedicò alle sue messe ben tre libri nei primi due decenni del XVI secolo. La fama di Josquin fu tale che in molti vollero pubblicare musiche firmate col suo nome per favorirne il successo. Va quindi considerato che una composizione a lui attribuita da una fonte del XVI secolo può non essere sua.

Tra le sue messe, oltre alla Hercules dux Ferrarie e alle due messe L'homme armé, ricordiamo la Missa de beata Virgine, la Missa La sol fa re mi, e la Missa Pange lingua, che è probabilmente l'ultima da lui scritta. Anche i contemporanei Antoine Brumel e Isaac scrissero Missae de beata Virgine. Tra i suoi mottetti, il mottetto per il periodo natalizio Praeter rerum seriem a sei voci, il Miserere a cinque voci, Ave Maria, Virgo serena a quattro voci e Tu solus qui facis mirabilia a quattro voci. Come il contemporaneo Pierre de La Rue e altri musicisti fiamminghi, ad esempio Johannes Ockeghem, Josquin utilizzò abbastanza spesso la scrittura in canone.