На улице Декабристов возле Крюкова канала в 1787 году появилось пятиугольное здание. Высотой оно было в два этажа с небольшими круглыми башнями в количестве семи штук, благодаря чему в народе сразу получило имя «Семибашенный». Строили его по проекту местного архитектора И. Е. Старова, чтобы разместить в нем тюрьму. Но тюрьма получилась не сразу, так как военные нуждались в жилплощади больше, чем заключенные. Поэтому попустовав несколько лет (никак не могли церковь освятить, расположенную в здании) «Семибашенный» с 1797 года начал принимать военных, в том числе и Литовский мушкетерский полк. Этот полк здесь квартировался больше двух десятков лет и подарил зданию новое имя - Литовский замок. В 1823 году замок наконец-то переделали в тюрьму с помощью умелых рук архитектора И. И. Шарлеманя. Литовский замок временно переименовался в «городскую тюрьму», куда сажали вначале уголовников, потом политзаключенных, а к концу его существования и участников рабочего движения. Видимо, именно последние две категории содержавшихся в тюрьме граждан и предопределили историю замка. Так как с Февральской революцией и отречением Николая II закончилось функционирование и тюрьмы. Революционеры освободили заключенных и сожгли здание. Правда не дотла, и руины в таком грустном и обугленном состоянии простояли еще 12 лет, пока их не разобрали окончательно, чтобы построить обычное советское жилье.