Возобновилось в XVI веке и монументальное строительство. На восточной окраине города был построен собор Духова монастыря, остатки которого удалось обнаружить при раскопках в 1974 году.
Стратегическое значение Смоленска как оплота на западных рубежах ценилось настолько, что решено было реконструировать здесь всю оборонительную систему, построив кирпичную крепость. Зимой 1595 года в Смоленск приехали «руководители» нового строительства. Они должны были определить условия работы, возможность заготовки строительных материалов, потребность в рабочей силе.
Князь и его помощники составили смету на строительство, которую отправили на утверждение в Москву. Однако срочность работы была такова, что, не дожидаясь утверждения сметы, в Смоленске сразу же начали заготовлять материалы, строить сараи и печи для обжига кирпича, подбирать места для ломки камня.
Весной 1596 года состоялась официальная закладка крепости. Чтобы подчеркнуть политическое значение этого события, в Смоленск приехал сам фактический правитель государства боярин Борис Годунов.
Строительство крепости проводилось очень быстрыми темпами и с огромным размахом. Здесь было создано несколько кирпичных заводов (в конце XIX века остатки одного из них случайно обнаружили на окраине города).
Но строительные материалы заготовляли не только в Смрленске и его окрестностях. Камень и известь сюда везли даже издалека: из Старицы, Рузы и «из дальних городов всея земли». Была объявлена мобилизация всех мастеров, которых можно было использовать для этого строительства: «каменщиков, и кирпичников, и горшечников, и кувшинников, и гончаров, и печников, и мастеров, которые делают жерновы и точила и на гробы цки (т. е. каменные надгробия)...». В некоторых городах под страхом смертной казни запрещалось всякое каменное и кирпичное строительство, не связанное с правительственными заказами. Летописец с полным правом мог отметить, что Смоленскую крепость возводили «всеми городами Московского государства».
Строительство грандиозной крепости было завершено в основном уже в 1600 году. Правда, отдельные работы продолжались вплоть до 1602 года, когда произошло официальное освящение стен. В результате была построена одна из самых мощных крепостей Руси. Ее протяженность около 6,5 километра; стены, сложенные внизу из камня, а выше из кирпича, имели высоту от 12 до 19 метров и были укреплены 38 башнями.
Следует подчеркнуть, что кирпичные стены окружали весь Смоленск, а не были укреплением только его центральной части, поэтому совершенно неправильно, когда крепость эту иногда называют кремлем.
Высказывались предположения, что кирпичные стены Смоленской крепости возведены на месте более а старых укреплений, возможно относившихся еще к ХП веку. Это не вполне точно. Деревянные укрепления. Смоленска, как это явствует из письменных источников, стояли на земляных валах, как обычно и бывало во всех древнерусских деревянных крепостях. Валы же, проходящие с тыльной стороны кирпичных стен, окружают меньшую территорию, чем Смоленская крепость. Кроме того, и в документах конца XVI века отмечено, что город заложили «больши старого», то есть даже по площади, больше, чем деревянные укрепления « XVI века.