Единственный в областном центре памятник известному государственному и политическому деятелю установлен еще в 1985 году. И это первое за 33 года воссоздание. Новый облик приобрел не только бронзовый бюст, но и фасад здания. Композиция является центром ежегодных праздничных линеек. Возлагают сюда цветы гимназисты и в профессиональный праздник сотрудников Комитета государственной безопасности. Кстати, именно они и выступили главными инициаторами воссоздания.
В местном музее гимназии планируют создать специальную экспозицию, которая будет посвящена известному государственному и политическому деятелю Феликсу Дзержинскому.