Махновцы продолжали добиваться права организации на освобожденных РПАУ территориях «вольных органов экономического самоуправления», автономных и находящихся в федеративных отношениях с УССР. Однако этим планам не суждено было сбыться. 25–26 ноября, после отказа выполнить провокационный приказ командования Красной армии о передислокации РПАУ на Южный Кавказ, войска Махно были атакованы. После тяжелых боев с красными, 28 августа 1921 г. Нестор Махно с небольшим отрядом бойцов перешел границу с Румынией.

Влияние махновских идей распространилось и на территорию соседней Белоруссии. Так, в Гомеле в 1919–1920 гг. немало бывших махновцев оказалось среди матросов Днепровской флотилии. Анархистские идеи завоевали гегемонию в этой воинской части. В опережении возникновения здесь восстания в результате возрастающей анархистской агитации матросов, 22 декабря 1920 г. командование сократило флотилию и большую часть воинского состава перевело на другие места службы.

Есть сведения, позволяющие предполагать анархистские симпатии у А.В. Сапожкова – командира 9-й кавалерийской дивизии Красной армии, возглавившего крестьянское восстание в Самарской губ. в июле 1920 г. Так, хорошо знавший Сапожкова заведующий особым отделом 2-й Трудовой армии Нифанов называл мятежного командира дивизии «идейным анархистом».

Столкнувшись с установлением однопартийной системы, преследованием участников анархистского движения и постепенным разоружением небольшевистских подразделений Красной армии и партизанских отрядов, в 1919–1920 гг. часть анархистов перешла к вооруженному сопротивлению большевистской диктатуре. Широко известна деятельность Всероссийской организации анархистов подполья (ВОАП), организатором которой был Казимир Ковалевич. Марк Мрачный, которому «анархисты подполья» безуспешно предлагали вступить в их ряды, утверждал в своих воспоминаниях, что теоретиком этой организации был Лев Черный. Впрочем, подтверждения этого факта нет. Напротив, подпольщик М. Тямин на допросе в ВЧК заявил, что Черный «в организацию не входил и все время резко спорил с Ковалевичем, абсолютно отрицая методы, которые применяли анархисты подполья». В 1919 г. они заявили о себе экспроприациями, выпуском прокламаций и др. изданий. 25 сентября 1919 г. в знак мести против расстрела в Харькове командиров бригады Махно, ВОАП совершила взрыв в здании Московского комитета РКП(б).

В заявлениях, выпущенных в августе 1919 г., эта организация подвергла критике антианархистские репрессии большевистских спецслужб, разгон непокорных большевикам Советов, ликвидацию или превращение в придаток правящей партии органов самоуправления трудящихся, подавление крестьянских выступлений, восстановление регулярной армии, централизацию и бюрократизацию и коррупцию в системе управления. Призывая к ликвидации комиссариатов, революционных трибуналов, ВЧК, «анархисты подполья» выдвинули требование передать власть органам самоуправления трудящихся при переходе управления экономикой в руки отраслевых федераций трудящихся (в том числе крестьян), объединенных во Всероссийскую конфедерацию труда. Вместо армии предлагалось организовать партизанские соединения, связанные с профсоюзами и построенные на принципах добровольности и выборности командного состава.

В противовес большевистской и белогвардейским диктатурам ВОАП заявила о поддержке партизанских движений, развернувшихся на территории Сибири и Украины «против насилия власти белых и красных». В качестве своей опоры анархисты подполья рассматривали «зеленых» повстанцев, участников крестьянских движений и дезертиров. В марте 1919 г. петроградская группа «Анархист» выпустила воззвание с призывом поддержать скрывавшиеся в лесах Петроградской губ. отряды «зеленых», состоявшие из дезертиров. Эти формирования рассматривались как основа повстанческой армии, борющейся против красных и белых.

Деятельность ВОАП, действовавшей совместно с радикально-антибольшевистским крылом ПЛСР, начинается с июня-июля 1919 г. В это время, в ответ на арест делегации махновского штаба в Харькове, М.Г. Никифорова провозгласила начало террора против красных и белых диктаторов. Махно предоставил ей для ведения боевой и подпольной работы около 500 тыс. руб. Кроме того, еще в январе 1919 г. группа В. Удалова совершила в Харькове экспроприацию правления Южных железных дорог, захватив 37 млн руб. Из Харькова в центральную Россию выехала группа из 25 боевиков, организованная махновскими контрразведчиками. В их планах было организовать в Харькове покушение на Троцкого и подрыв здания ВУЧК. Затем предполагалось покушение на Ленина в Москве.

В состав ее московской группы входили около 30 чел. В августе 1919 г. ВОАП провела экспроприацию отделения Народного банка на Долгоруковской ул. в Москве, захватив 52,5 тыс. руб. 18 августа в отделении того же банка на Малой Дмитровке были захвачены 803,1 тыс. руб. По др. данным, было захвачено 3,5 млн руб. 29 августа на патронном заводе в Туле «анархисты подполья» экспроприировали 3,48 млн руб. В Московском регионе были организованы конспиративные квартиры. На даче в поселке Красково находились типография и лаборатория по изготовлению бомб. Разрабатывались планы взрыва здания СНК РСФСР и покушения на Ленина. Подпольщики издали и распространили 4 прокламации («Где выход?», «Извещение», «Медлить нельзя» и «Правда о махновщине») и 2 номера газеты «Анархия». 25 сентября 1919 г. ВОАП совместно с левоэсеровской группой Д. Черепанова с целью устранения Ленина и высших партийных функционеров осуществила бомбовую атаку здания МК РКП(б) в Леонтьевском пер. В результате взрыва погибли 12, были ранены 55 чел. Среди убитых оказался секретарь МК В. Загорский, среди раненых – известные большевистские деятели: М. Ольминский, М. Покровский, Ю. Стеклов и Е. Ярославский.

Вскоре ВОАП была разгромлена в результате операции, проведенной чекистами. Дачу в Краскове окружили чекисты. После ожесточенного сопротивления в течение 2,5 часов ее защитники во главе с Ковалевичем погибли, подорвав себя бомбами. Вскоре чекисты ликвидировали конспиративные квартиры и подразделения ВОАП в Брянске, Одинцове (Московская губ.), Подольске и Туле. Восемь арестованных подпольщиков были расстреляны.

Крымская группа, связанная с «анархистами подполья», была образована А.Н. Андреевым и З.Б. Гандлевской в июне 1919 г. В ее состав входили 5 чел. Подпольщики вели подготовку покушения на А.И. Деникина. В конце июля – начале августа для участя в этой акции в Севастополь прибыли М. Никифорова и В. Бжостек. В августе-сентябре 1919 г. эта группа была разгромлена. Гандлевская была вынуждена уехать в Харьков. 14 августа Никифорова и Бжостек были арестованы и в ночь на 3 (16) сентября повешены по приговору военно-полевого суда.

Одновременно, в ходе операции по разгрому ВОАП, были арестованы и анархисты, не имевшие к ней никакого отношения и лишь благодаря своей известности попавшие в поле зрения чекистов. Так, 4 ноября 1919 г. в гостинице Михеева на Тверской ул. был арестован Павел Алексеевич Еремеев, в это время настроенный на сотрудничество с большевиками и работавший членом коллегии Владимирского губернского подотдела социального обеспечения и охраны труда. 26 сентября чекисты арестовали трех делегатов Cаратовской объединенной группы анархистов-коммунистов, приехавших в Москву на запланированный, но несостоявшийся II Всероссийский съезд анархистов-коммунистов: Хая Абрамовна Одле, Петр Романович Осипов и Мария Вартановна Петросова. В большинстве своем эти люди вскоре были освобождены, поскольку очевидной была их непричастность к какой-либо подпольной борьбе анархистов.