Земляна фортеця була закладена старостою новгород-сіверським А. Пісочинським у 1635 р. на місці давньоруського городища. Значно розширена у 1685 р. Коли Глухів став гетьманською резиденцією, фортецю реконструювали, і в 1766-69 рр. спорудили з каменю Київські і Московські в’їзні ворота. Проте вже до початку XIX ст., згідно з проектом перепланування міста, фортеця була ліквідована, Московські ворота розібрані. Крім Київських воріт, збереглися тільки фрагменти оборонної лінії вздовж вул. Валова

У підземеллях Замкового комплексу відкрито експозиції, що відтворюють сторінки його історії. У західному бастіоні реконструйовано панораму оборони замку 1672 р. під частурецької навали. У східному бастіоні розміщено експозицію, присвячену історії легкої метальної зброї на Поділлі, де відвідувач може вистрілити з арбалета, відчувши себе середньовічним воїном. До нашого часу збереглася система ходів і казематів.

За дослідженням істориків, первісні укріплення були дуже архаїчні – у вигляді невеликих земляних бастіонів напівкруглої та простокутної форми в плані, сполучених валами. На розі, приблизно там, де нині стоїть Ротонда дружби народів, був великий, підковоподібного плану бастіон. Певно, найважливіші ділянки оборони посилювалися рубленими дерев'яними баштами. В'їзна брама містилася з північного заходу.

Земляними валами, ровом і частоколом укріпили трикутний у плані мис, що нині зберігся в середмісті й називається Городищем. Він лежить між двома ярами – Мазурівкою і Панянкою. Під час археологічних розкопів тут виявлено рештки поселень скіфської доби (II ст. до н. е.), роменської культури (VIII ст.), великокнязівських часів (Х-ХІІ ст.).