Красный Серафим - Связь времён Он решает полностью посвятить себя революционной работе и переходит на положение подпольного агитатора. В декабре 1902 года он убеждает рабочих Наро-Фоминска начать забастовку. За это его арестовывают и в июле 1903 высылают на три года в Усть-Сысольск (сегодня это - г. Сыктывкар). Несмотря на некоторый бытовой дискомфорт, ссылка была относительно лёгкой формой наказания, так как ссыльным не приходилось выполнять тяжких работ. Жили они в основном в обществе себе подобных, беспрепятственно встречаясь, обучаясь друг у друга и дискутируя. В самой Вологде был крупный пересыльный центр, в котором одновременно с Гастевым или незадолго до него находились его партийные соратники и единомышленники А.А. Богданов (Малиновский) и А.В. Луначарский, уже упоминавшийся Н.А. Бердяев, эсер-боевик Б.В. Савинков, писатель А.М. Ремизов , будущий участник (совместной с Гастевым) боевой дружины в Костроме, а затем - один из руководителей советских карательных органов - М.С. Кедров. В вологодских архивах сохранилась характеристика, данная Гастеву местным полицейским управлением: «Поведения очень неодобрительного, служит главным коноводом всех поднадзорных, подбивая их на кляузы, очень неуживчивый, грубый и дерзкий. Не признаёт власти, религии и закона». Полицейский исправник обращается к начальству за разрешением нанять для наблюдения за Гастевым «отдельное лицо с оплатой 15 рублей в месяц». Занявшись репетиторской работой, Гастев вскоре устраивает в Усть-Сысольске политическую демонстрацию, после чего его переводят в село Визингу. Здесь Гастев получает уже более лестную характеристику, так как хочет попасть в город Яренск, где находятся его товарищи по ссылке, а может быть, он уже вынашивает план побега. Прошение Гастева на имя вологодского вице-губернатора удовлетворено и 1 июня он попадает в город, вблизи которого проходит железная дорога, а уже 10 июня бежит. Полиция безрезультатно разыскивает его по всем окрестностям.
В 1903-1904 гг. Гастев находится в постоянной переписке с Лениным и Крупской. Из писем Гастева (он подписывал их как «Иванов») видно, что в основных вопросах он целиком поддерживает большевистскую фракцию. Первое письмо от Крупской отправлено Гастеву 1 сентября 1903 г., когда он ещё находится в Вологодской ссылке. Из второго письма явствует, что Гастев в нескольких предыдущий письмах (их тексты не сохранились) активно шлёт материалы в редакцию «Искры» (как раз в это время Ленин уходит из редакции, и руководство изданием газеты переходит в руки Плеханова). Письмо было отправлено на конспиративную квартиру в Вологду через Лейпциг. Следующее письмо отправлено Гастевым-Ивановым в соавторстве с Луначарским из Парижа. Оно касается, в основном, вопросов партийной организации. Из него, помимо прочего, следует, что Гастев успел за это время не только покинуть места ссылки, но и благополучно пересёк границу России, прибыл в Западную Европу и связался там со своими однопартийцами.