Succédant au papyrus, principal médium de l'écriture en Occident jusqu'au 7ème siècle, le parchemin a été abondamment utilisé durant tout le Moyen Âge pour les manuscrits et les chartes, jusqu'à ce qu'il soit à son tour détrôné par le papier. Son usage persista par la suite de façon plus restreinte.

Durant l'époque romaine, l'Égypte avait le monopole de la production de papyrus. Ce produit de grande consommation ne servait pas seulement comme support d'écriture, mais aussi pour la fabrication des mèches de chandelles, Avec la chute de l'empire, le commerce du papyrus se fait plus difficilement et ce matériau est supplanté en Europe occidentale par le parchemin, fabriqué à partir de peaux généralement d'agneau, mais aussi de veau ou de chevreau.

Ce type de papier existait déjà à l'époque des premiers papiers, en Chine, au ii^e siècle av. J.-C., il est aujourd'hui généralement fait avec des pièces d'étoffe usagées, des chiffons, d'où son appellation.