Убийство Мирбаха послужило сигналом к мятежу левых эсеров. Их воинские формирования захватили здание ВЧК, почту и телеграф, ими был арестован Ф.Э. Дзержинский. Однако уже на следующий день мятеж был подавлен.

Б. перешел на нелегальное положение. Под фамилией Авербах скрывался в Рыбинске и Кимрах, где ему удалось устроиться на работу в уездный комитет земледелия. Он восстановил связь с ЦК партии левых эсеров, который вскоре направил его на Украину для проведения террористических акций.

В ноябре 1918 г. Б. был заочно приговорен советским судом к 3,5 г. заключения.

На Украине Б. начал подготовку убийства гетмана П.П. Скоропадского, поднял восстание крестьян в Жмеринском уезде. Его положение в партии значительно укрепилось. В феврале 1919 г. он становится секретарем нелегального Киевского горкома левых эсеров. Однако после аннулирования Советской Россией Брестского мира конфронтация левых эсеров с большевиками, по мнению Б., во многом потеряла смысл.

В апреле 1919 г. Б. является в Киевский губчека с повинной и выражает готовность сотрудничать с советской властью во имя «всемирной революции».

16 мая 1919 г. Президиум ЦИК амнистирует Б., и тот немедленно заявляет о выходе из партии эсеров и вступает в «Союз максималистов», который стоял на платформе признания советской власти и борьбы с контрреволюцией совместно с большевиками.

В мае 1919 г. Б. по поручению ЧК готовит группу для убийства генерала Колчака. В то же время левыми эсерами на него было совершено три покушения за предательство, в результате одного из них он получил довольно серьезные ранения. Он обращается к левым эсерам с письмом, требуя партийного суда, который вскоре состоялся. Было вынесено определение, в котором было указано, что «суд не установил, что Б. не предатель».

Вскоре после суда Б. вступает в коммунистическую партию, заявив при этом, что понял «историческую правду большевистской линии в социалистической революции». Он переезжает в Москву, где работает в Политуправлении Реввоенсовета, выезжает на Восточный и Южный фронты. В 13-й армии Южного фронта одно время возглавляет работу по борьбе со шпионажем. После окончания Гражданской войны он был направлен на работу в Наркомат по иностранным делам и откомандирован в Иран, где по заданию партии организует государственный переворот, в результате которого там был установлен режим, лояльный к Советской России.

В сентябре 1920 г. Б. был зачислен в Академию Генерального штаба, Свободное время часто проводил в ресторанах и кафе в обществе В. Маяковского, С. Есенина, В. Шершеневича, А. Мариенгофа и др.

В феврале 1923 г. в Москве открывается выставка, посвященная деятельности Л.Д. Троцкого. Отбор материалов и оформление проводил Б., с чего и началось его знакомство и сближение с Л.Д. Троцким.

Осенью 1923 г. по предложению Ф.Э. Дзержинского Б. переходит в Иностранный отдел ОГПУ. Работает в Палестине, Закавказье. Летом 1925 г. возвращается в Москву и некоторое время работает в Наркомате торговли, но через год вновь возвращается в ОГПУ. Получил назначение в Монгольскую республику на должность главного инструктора государственной внутренней охраны.

Пребывание Б. в Монголии была связано с рядом крупных скандалов. Он начал злоупотреблять спиртным, выпячивал свою роль в международном революционном движении, хвалился связями, оскорблял не только советский персонал, но и монгольских коллег. В результате в ноябре 1927 г. был отозван.

Приезд Б. в Москву совпал с апогеем фракционной борьбы. Были исключены из ВКП(б) Л.Д. Троцкий и Г.Е. Зиновьев, а также наиболее видные их сторонники Л.Б. Каменев, Г.Л. Пятаков, К.Б. Радек, Х.Г. Раковский, Л.С. Сосновский и др.

В эти дни Б. открыто встречается с участниками оппозиции, морально и материально поддерживает их. Однако вскоре получает задание выехать на нелегальную работу на Ближний Восток под именем Якуба Султанова («персидский купец»). Б. составляет план организации легального прикрытия. Он предлагает создать фирму по торговле древними еврейскими книгами, которые, по его мнению, можно было изъять из Румянцевской библиотеки и спецхранилищ, при этом встречает поддержку наркома А.В. Луначарского. Б. формирует резидентуру, в состав которой входят Л.А. Штимельман и его жена, а также М.И. Альтерман.

В сентябре 1928 г. Б. выезжает в Одессу, оттуда — в Константинополь. Организованная им фирма начала активную деятельность по продаже древнееврейских рукописей и книг, Б. удалось установить обширные связи с американскими и западноевропейскими партнерами. По делам фирмы Б. посещает Париж и Берлин, одновременно решая разведывательные задачи.

В марте 1929 г., находясь в Германии, Б. узнает о высылке Л.Д. Троцкого из СССР. Он направляет начальнику Иностранного отдела ОГПУ М.А. Трилиссеру письмо следующего содержания:

«Высылка Троцкого меня потрясла. В продолжении двух дней я находился в прямо болезненном состоянии. Мои надежды, что радиус расхождения между партией и троцкистской оппозицией суживается и кризис изживается, что Троцкий сохранен для партии, не оправдались».

Симпатии к оппозиции и лично к Л.Д. Троцкому разгорелись у Б. с новой силой. В апреле 1929 г. он приезжает в Константинополь и встречается с Л.Д. Троцким. В ходе четырехчасовой беседы тот высказал мнение, что в ближайшие месяцы советский режим рухнет и необходимо найти среди членов партии кадры, которые при смене власти могут сплотить пролетариат на платформе нынешней оппозиции. Он полагал актуальным создание нелегальной организации на территории СССР, интересовался способами конспиративной связи со сторонниками в Советском Союзе, состоянии контроля иностранной корреспонденции.

Л. Д. Троцкий предложил Б. наладить учет оппозиционеров, работавших в советских учреждениях за рубежом, использовать их для организации связи, высказал пожелание достать как можно больше денег для конспиративной работы, предложил доставить их путем тайного изъятия из средств заграничных советских организаций, в том числе и резидентур.

Б. заверил Л.Д. Троцкого в готовности к сотрудничеству. Договорились поддерживать связь через сына Л.Д. Троцкого Л.Л.Седова.

В начале августа Б. был вызван в Москву, о чем он немедленно информировал Л.Л. Седова. На конспиративной встрече тот передал Б. пакет с письмами отца жене и второму сыну, а также двумя книгами, в которых между строк химическим раствором было написано обращение Л.Д. Троцкого к его сторонникам в СССР.

Прибыв в Москву, Б. доложил о своей нелегальной работе руководству ОГПУ, в ЦК ВКП(б) сделал сообщение о политическом положении на Ближнем Востоке. Представил ряд предложений по улучшению работы нелегальной резидентуры, кадровом пополнении, а также изменении методов торговли рукописями и книгами в связи со скандалами, разразившимися в результате коммерческой деятельности Б. на Западе, где на аукционах появились предметы, хранившиеся ранее в Эрмитаже и др. известных музеях России.

Выждав некоторое время, Б. через посредников передал письма семье Л.Д. Троцкого и встретился с К. Радеком, которому рассказал о встрече с Л.Д. Троцким и его сыном в Константинополе.