Осенью 1923 г. по предложению Дзержинского Блюмкин становится сотрудником Иностранного отдела (ИНО) ОГПУ. В ноябре 1923 г. решением руководства ИНО ОГПУ его назначают резидентом ОГПУ в Палестине. Одна из его главных задач – собирать информацию о планах Англии и Франции на Ближнем Востоке. Там Блюмкин сблизился с сионистами, среди которых, как мы уже знаем было немало евреев из России. Его отозвали в Москву в 1927 г. и вскоре перебросили в Монголию, где он долго не задержался и был разоблачен одним из чекистов – перебежчиков. В 1928 г. после провала в Монголии Блюмкина назначили резидентом ОГПУ в Константинополе. Теперь он курирует весь Ближний Восток. По заданию ЦК ВКП (б) он занимался организацией в Палестине резидентской сети, которую начал создавать еще в свою первую командировку. Он работает то под видом набожного владельца прачечной Гурфинкеля, то под видом азербайджанского еврея-купца Султанова. Блюмкин завербовал венского антиквара Якоба Эрлиха и с его помощью обустроил резидентуру, законспирированную под букинистический магазин. Но какой! Блюмкин вспомнил свое обучение в хедере под руководством знаменитого Менделе Мойхера-Сфорима и решил внести свой вклад в дело изучения священных книг иудеев. Он наладил поставки антиквариата и редких еврейских книг из СССР. ОГПУ проделало огромную работу в западных районах СССР по сбору и изъятию старинных свитков Торы и Талмуда. Для Блюмкина собрали в еврейских местечках и синагогах 330 сочинений средневековой еврейской литературы. Чтобы подготовить Блюмкину материал для успешной торговли в его антикварной лавке, в Проскуров, Бердичев, Меджибож, Брацлав, Тульчин направились экспедиции ОГПУ с целью изъятия старинных еврейских книг. Блюмкин сам выезжал в Одессу, Ростов-на-Дону, в местечки Украины, где обследовал библиотеки синагог и еврейских молитвенных домов. Книги изымались даже из государственных библиотек и музеев. Летом 1929 г. Блюмкин приезжает в Москву отчетом о своей работе. Его доклад членам ЦК партии о положении на Ближнем Востоке одобрен как членами ЦК, так и руководителем ОГПУ В. Менжинским. Блюмкин с успехом проходит очередную партийную чистку, благодаря отличной характеристике начальника иностранного отдела ОГПУ М. Трилиссера. Партийный комитет ОГПУ характеризовал Блюмкина как «проверенного товарища».

Автор «Еврейского ресурса Семь 40» Яков Рабинер в своем очерке о Блюмкине «Герой страшного времени» приводит любопытные детали об этом заключительном этапе жизни и карьеры чекистского авантюриста и о действиях советской разведки во время его ближневосточного резидентства:

«В Константинополе Блюмкин помогает каждому из резидентов найти свою “крышу”: пристраивает их торговыми представителями различных компаний. И вот он уже в Палестине. Замелькали города: Хайфа, Тель-Авив, Иерусалим. И еще Каир, Бейрут, Дамаск. Работы невпроворот. Встречи с арабами, евреями, коммерсантами, местной интеллигенцией, лидерами сионистского движения. И везде он забрасывает удочку: вербует, подкупает, если надо. То подключает обаяние, то вовсю шантажирует. Все средства идут в ход. Как настырный паук, опутывает он постепенно незаметной для постороннего глаза шпионской паутиной весь Ближний Восток. “Дело в Константинополе, в Палестине и Дамаске налажено”, – смог он отрапортовать по прибытию в Москву своему начальнику М. Триллисеру. Блюмкин въезжает в Москву на “белом коне’ своих ближневосточных успехов. Ему выделили личный автомобиль. Сам председатель ОГПУ Менжинский не только удостоил его своей встречи, но даже пригласил отобедать с ним. Им явно заинтересовались на кремлевском Олимпе. Его отчет в ЦК произвел на всех большое впечатление и вызвал особый интерес у Молотова. Дело в том, что в Кремле не знали, на кого делать ставку в Палестине в случае конфликта с Англией – на арабов или на евреев. И те, и другие, каждый по своей причине, ненавидели англичан. А что если объединить арабскую и еврейскую коммунистическую партию? Молотов хотел знать мнение Блюмкина на этот счет. Видимо, не без его влияния, сталинское руководство склонялось все больше к тому, чтобы сделать ставку на евреев. Блюмкину в этом случае отводилась роль первой скрипки. Не зря в гостях у Луначарского, который жил на одном этаже с ним, он похвастался тем, что он, дескать, “закладывает основы еврейского государства в Палестине”.

Это говорит о том, что Сталин давно, еще в 20-е годы, вынашивал идею создания сориентированного на Москву еврейского государства. Уже тогда многое делалось в этом направлении, включая разведку, подготовку коммунистов-евреев, проникновение в сионистские организации, тайную переброску оружия и т. д. Как утверждает в своих воспоминаниях бежавший на Запад Г. Агабеков, одно время руководивший советской агентурной сетью в Палестине, в Москву в 1926 году приезжали для консультации “три члена партии сионистов и установили связь с ОГПУ”. “В беседах с иностранным отделом ОГПУ сионисты, – пишет Агабеков, – указывали на разногласия палестинского еврейства с англичанами и просили помочь им добиться государственной независимости Палестины. Они просили снабдить их оружием и денежными средствами для ведения пропаганды”. К 40-м годам “свои” люди имелись в “Хагане”, “Штерне” и в других еврейских формированиях и группах. Будущий Израиль представлялся Сталину форпостом советского влияния на Ближнем Востоке, он был уверен, что именно так все и произойдет, вот почему с такой готовностью Советский Союз поддержал создание Израиля в 1947 году» (Рабинер Я. Блюмкин – герой страшного времени: цит. по: proza.ru. 2012. 03.24).

Блюмкину недолго пришлось походить по Москве триумфатором. В ОГПУ донесли, что в Турции он встречался со своим кумиром Троцким, которого Сталин только что выслал за пределы СССР. Троцкий передал ему письмо Радеку. Но Радек сам уже был под колпаком Лубянки и письмо даже не взял, а тут же сообщил об этом «куда следует». Это был уже третий донос на Блюмкина. А второй отправила на Лубянку его любовница Лиза Розенцвейг, сотрудница ОГПУ, которой Блюмкин проболтался о своей встрече с Троцким в Константинополе. Блюмкина пытали и били на допросах. Он признал, что хотел работать на Троцкого. Судила его тройка – Менжинский, Ягода и Трилиссер. Первые двое были за расстрел. Трелиссер просил его помиловать, тем более что Блюмкин в ходе следствия покаялся и обещал сдать всех, кого потребуется. Трилиссеру это потом припомнят в 1951 г., когда он будет проходить по делу Абакумова. Точная дата расстрела Блюмкина неизвестна – либо 3 ноября, либо 12 декабря 1929 г. Расстреливал его самый страшный чекистский палач Магго, который отправил на тот свет более 1000 «врагов народа». По одной версии Блюмкин воскликнул перед расстрелом «Да здравствует товарищ Троцкий!». По другой запел: «Вставай, проклятьем заклейменный, весь мир голодных и рабов!». Сталин всю эту историю запомнил.

Конечно, с расстрелом Блюмкина проникновение советских спецслужб на Ближний Восток и в ряды сионистов не закончилось. В Палестине продолжал работать какое-то время завербованный Блюмкиным Леопольд Треппер, будущий руководитель антифашистской организации и советской разведывательной сети в нацистской Германии, известной, как «Красная капелла». Советские спецслужбы успешно внедряли своих агентов в сионистские и еврейские организации США. Зондажные мероприятия и сбор информации осуществлялись под руководством Исхака Ахмерова, Виталия Павлова, а также чекистов, репрессированных при Ежове и Берии – разведчика-нелегала Базарова и первого «легального» резидента НКВД в США Гутцайта. Многие факты стали известны лишь недавно благодаря горбачевской гласности и свидетельствам ветеранов советской внешней разведки. Хотя большинство архивных документов той поры засекречены по сей день.