Согласно же воспоминаниям сестры Альдоны, Феликс вошел в учительскую и, обращаясь к учителю русского языка Раку, заявил о его несправедливости к ученикам-полякам и шовинизме. О том, что национальное угнетение ведет к тому, что из учеников вырастут революционеры. Вы сами готовите борцов за свободу, в конце выкрикнул он[232]. Данное воспоминание представляется наиболее достоверным из вышеприведенных, так как в первой виленской гимназии в этот период действительно преподавал учитель русского языка Иван Григорьевич Рак[233].

Софья Игнатьевна Пилляр — родная тетя Феликса, попыталась смягчить ситуацию и обратилась 2 апреля 1896 г. к директору с просьбой освободить от занятий в гимназии ее племянника. Ходатайство принесло отчасти некоторые плоды. Вскоре ей выдали свидетельство о выбытии из гимназии на имя ученика восьмого класса Первой виленской гимназии Феликса Дзержинского. Свидетельство давало право сдачи экзаменов на аттестат зрелости в любом другом городе и после этого без экзаменов поступить в университет[234]. При примерном поведении, которое он получил в свидетельстве об окончании семи классов гимназии, в нем же значились следующие оценки: по русскому и по греческому — «двойки», по Закону Божьему — «четверка», по остальным предметам — «тройки»[235]. Обстоятельства «ухода из гимназии» в значительной степени определили и итоговые оценки знаний.

Позднее, в одном из сообщений начальника Виленского жандармского управления говорилось, что «Дзержинский, будучи в гимназии, уже обращал на себя внимание гимназического начальства тем, что он всегда будто бы был недоволен настоящим положением, что иногда им высказывалось, хотя в такой форме, которая не давала оснований к удалению его из заведения, но тем не менее начальство гимназии, заметив в нем такие проявления, уже не взяло на себя ответственность за выдачу ему аттестата зрелости, вследствие чего он и должен был оставить гимназию, и что два его старших брата также замечены в политической неблагонадежности»[236].

Уход из гимназии обозначил начало фанатичной революционной деятельности Дзержинского. Деятельность, которая через многочисленные испытания в виде ссылок, тюрем, болезней станет одной из многих предтеч Красного Октября 1917 г. Первое тюремное заключение последует уже через год, в 1897 г., за ней будет первая ссылка, первый побег. Позднее последуют новые аресты и ссылки, и так вплоть до Февральской революции. Однако для Дзержинского ничего не менялось, клятва, данная в гимназические годы, оставалась нерушимой.

После апрельского отчисления из первой виленской гимназии Феликс Дзержинский уже живет у своей сестры Альдоны и ее мужа Гедымина Булгак на Поповской улице, д. 1 (позднее улица Марите Маргит). Здесь же жили двое младших братьев Дзержинского: Игнатий и Владислав, так же учившиеся в первой виленской гимназии. Правда, их обучение в первой виленской гимназии, после демарша Феликса Дзержинского, скоро закончилось. Через год директор гимназии заявил, что лучше будет, если они переедут в другой город, так как аттестата зрелости в его заведении им все равно не получить. Несмотря на хорошую учебу, Игнатий и Владислав вынуждены были уехать заканчивать гимназическое обучение в Санкт-Петербург[237]. Позднее Игнатий Дзержинский окончит Московский университет[238]. Этот же университет окончит и Владислав.

К Феликсу Дзержинскому, на квартиру Альдоны, часто заходил его старший товарищ по революционной деятельности доктор А. Домашевич, что было не безопасно, т. к. могла пострадать семья Дзержинского: его сестра и ее семья, его младшие братья. «Я знала, что Домашевич нелегальный, и я боялась, что его выследят и арестуют у меня на квартире», — тревожилась Альдона[239]. Однако первое время она ничего не могла с этим поделать.

Между тем в Вильно активизировалась работа местных социал-демократов. 1 мая 1896 г. на квартире доктора А. Домашевича состоялся учредительный съезд Литовской социал-демократической партии (СДПЛ). Партию первоначально возглавили А. Моравский и А. Домашевич. В принятой партийной программе ставилась задача достижения суверенитета Литвы, охватывающего Виленскую, Ковенскую, Сувалкскую и Гродненскую губернии, связав Литву с соседними государствами узами свободной федерации.

Дзержинский и более молодые члены партии на решения съезда повлиять не могли, но проявили себя в этот день достаточно громко. 1 мая 1896 г. состоялся тайный митинг в Каролинском лесу. Собралось около 50 рабочих, перед которыми, под красным знаменем, выступили Дзержинский и Гульбинович. После все собравшиеся пели революционные песни, а затем рабочие подхватили Дзержинского и его товарища и стали их качать. Феликс за это отругал рабочих, но никто не обиделся[240].

Постепенно нелегальная работа все больше затягивала Дзержинского. Рисковать своими родными он уже не мог. В январе 1897 г. Феликс переехал на Заречную улицу, д. 14 в дом Е. И. Миллера, где жил до марта 1897 г.[241] Он снимал мансарду с еще одним рабочим-революционером, сапожником Францем Корчмариком (Францишек).