В 1900 г. в Женеве была создана «Группа русских анархистов за границей». Ее лидерами стали Г.И. Гогелия, М.Э.-Р. Дайнов и Л.В. Иконникова. Свою достаточно умеренную и осторожную политическую позицию группа выразила в воззвании «К товарищам в России» (1901 г.). Прежде всего его авторы приветствовали охватившие в 1899 г. крупные города студенческие выступления, в которых участвовали и рабочие. В то же время анархисты доказывали невозможность успешной защиты академических свобод в рамках абсолютизма, говоря также об ограниченности борьбы за демократизацию политической жизни, как и выступлений исключительно за улучшение экономического положения трудящихся. В листовке проводились мысли об объединении этих движений и необходимости свергнуть «азиатское самодержавие». Лишь лозунг социальной революции придавал позиции группы анархистский оттенок.

Идеологический, издательский и организационный центр анархистского движения России появляется лишь в 1903 г. Это была группа анархистов-коммунистов «Хлеб и Воля», основанная в Женеве. Ее лидерами стали Г.И. Гогелия, Л.В. Иконникова-Гогелия, М.Г. Церетели и Г.Г. Деканозов. Вскоре к этой группе примкнули М.И. Гольдсмит, Н.И. Музиль, С.М. Романов и др. анархисты. В августе 1903 г. группа начинает издавать газету «Хлеб и Воля», ставшую печатным органом анархистского движения России. Эмиссары «хлебовольцев» в 1903–1904 гг. прибыли в Россию и создали анархистские группы в Белостоке, Житомире, Нежине и Одессе. Кадры пропагандистов и организаторов они находили среди учившихся во Франции и Швейцарии русских студентов и еврейских рабочих-иммигрантов, в 1880-е – 1900-е гг. активно переселявшихся из России в Великобританию и США. В 1903 г. в Женеве Г.Б. Сандомирский и несколько его единомышленников создали анархистскую группу «Вольная воля». Они успели выпустить два номера одноименной газеты. Прекратив это издание, они также примкнули к «хлебовольцам». В первой половине 1904 г. в Париже Б.Я. Энгельсон и Л.Л. Алешкер образовали издательскую группу «Анархия». К ней примкнули М.И. Гольдсмит, И.С. Гроссман, М.-Э.-Р. Дайнов, Ш.Х. Каганович, С.М. Романов. Деятельность этой организации способствовала усилению анархистской пропаганды в России.

Исследователи дают различные датировки появления первых организаций анархистов на территории Российской империи. В.Д. Ермаков, согласно свидетельствам, оставленным участниками анархистского движения, предполагает, что первая группа сторонников безвластия возникла в Кишиневе в 1901 г. Украинский историк В.А. Савченко, ссылаясь на материалы Центрального государственного исторического архива Украины, без конкретизации документов указывает, что кишиневская Южная группа анархистов-коммунистов была основана Моисеем Ханжи в 1898 или в 1900 г. и была исключительно еврейской по национальному составу. По словам Савченко, до 1903 г. кишиневские анархисты «действовали в глубоком подполье, проводя пропаганду среди ремесленников». Также, по его данным, в октябре 1900 г. в Харькове полицией был ликвидирован, непосредственно при его основании, анархистский кружок В. Карфункельштейна.

В 1902 г., указывает Ермаков, на территории России существовали анархистские группы в четырех городах (Кишиневе, Одессе, Каменец-Подольске и Белой Церкви). С этой точкой зрения можно поспорить на том основании, что, несмотря на наличие упоминаний этих групп в биографических справочниках Общества политкаторжан и в изданных им историко-мемуарных работах, какая-либо информация об их деятельности отсутствует как в анархистской литературе того времени, так и в полицейских документах.

В силу этого наиболее обоснованной выглядит точка зрения о том, что первая анархистская организация была основана в конце 1902 – начале 1903 гг. анархистами-эмигрантами Г. Брумэром и Ш.Г. Кагановичем (известным также под псевдонимами «Исаак» и «Зайдель») в Белостоке. Каганович с 1900 г. был членом «Группы русских анархистов-коммунистов» в Женеве. Ранее живший в Лондоне и вращавшийся в среде еврейских анархистов, он целенаправленно вернулся в Россию с целью организовать анархистское движение. В январе 1903 г. Каганович создал в Белостоке анархистский кружок из бывших бундовцев и эсеров, к августу того же года реорганизованный в Интернациональную группу анархистов-коммунистов «Борьба» (с ноября 1904 г. – «Группа русских анархистов-коммунистов»). На тот момент в ее состав входили 10–12 чел., к концу года их численность выросла до 25 чел. В это время «Борьба» уже создала анархистские организации в соседних городах и местечках – Бельске, Волковыске, Гродно, Заблудове, Крынках, Ружанах Тростянах и Хороще. К октябрю 1904 г. «Борьба» насчитывала 82 чел., что составляло 55,1 % от общей численности местных революционных организаций. Фактически она стала самой крупной революционной организацией в городе. К январю 1905 г. в нее входили уже 150 чел. В это время приехавший из Парижа Б.-Я. Энгельсон организовал в Белостоке подпольную типографию.

Летом 1903 г. анархо-коммунистическая группа была основана в Нежине. Инициатором ее создания был эмиссар женевских «хлебовольцев» Г.К. Якобсон, распропагандировавший местных активистов Революционной Украинской партии (РУП).

В Одессе анархистская организация выросла из махаевского «Союза непримиримых», организованного в сентябре 1903 г. приехавшими из Иркутска учениками Махайского – А.В. Шетлихом, Б. Миткевичем и А. Чуприной. Осенью в ее состав входили 40, а к апрелю 1904 г. – около 80 чел. В основном, это были еврейские рабочие и ремесленники, а также отдельные представители интеллигенции. В качестве ведущих методов борьбы «непримиримые» провозглашали экспроприации и фабрично-заводской террор. В начале 1904 г. к ним присоединились несколько анархистов-эмигрантов, прибывших из Западной Европы. Впоследствии из этой организации вышел ряд выдающихся деятелей российского анархизма: А.Г. и О.И. Таратута, Л.-С. Лапидус, Б. Шерешевская, К.М. и Х.Э. Эрделевские и др. Летом 1904 г. с «непримиримыми» установили связь белостокские анархисты. Вскоре были организованы подпольная типография и лаборатория бомб. Но уже 12–13 апреля союз понес огромные потери. Полицией были арестованы 39 его активистов, разгромлена типография и захвачена значительная часть литературы. В сентябре 1904 г. «Союз непримиримых» полностью превращается в анархистскую организацию и принимает новые названия: Южнорусская группа анархистов-коммунистов «Бунтарь», а затем – Рабочая группа анархистов-коммунистов «Хлеб и воля». Осенью 1904 г. в ее состав входили около 70 чел. К ним примыкали несколько сот сочувствующих.

Обстоятельства, по которым эмиссары «хлебовольцев» выбрали именно эти города, легко объяснимы. Прежде всего, Белосток и Одесса были развитыми промышленными центрами с многочисленным еврейским пролетариатом, опыт работы с которым в Лондоне уже имели анархистские пропагандисты. Ну а многонациональный состав рабочего класса (белорусы, евреи, поляки, русские – в Белостоке; евреи, греки, молдаване, русские и украинцы – в Одессе) создавал возможности для быстрого преодоления языковых границ в агитационно-пропагандистской работе. Кроме того, социальная обстановка здесь была достаточно напряженной. Частым явлением в начале XX в. в этих промышленных центрах становятся забастовки, сопровождавшиеся столкновениями с полицией и штрейкбрехерами. Так, летом 1903 г. Одесса стала одним из центров всеобщей забастовки, охватившей южные регионы Российской империи. Кроме того, в этих городах среди местных социал-демократов и эсеров действовали «рабочие оппозиции», выступавшие за радикализацию методов классовой борьбы и выражавшие недовольство засильем в партиях активистов из среды интеллигенции. Нежин давал анархистам возможность через Черниговскую губ. выйти к регионам, связанным с крестьянскими восстаниями 1902 г., чтобы вести работу среди крестьян.