Удостоверение, выданное Блюмкину, гласило: "Всероссийская Чрезвычайная комиссия уполномочивает её члена Якова Блюмкина и представителя Революционного трибунала Николая Андреева войти в переговоры с господином германским послом в Российской республике по поводу дела, имеющего непосредственное отношение к господину послу".

6 июля 1918 года около двух часов дня два чекиста, Яков Блюмкин и Николай Андреев, на автомобиле подъехали к германского посольству. Их встретили первый советник посольства доктор Рицлер и адъютант военного атташе посольства лейтенант Мюллер. Визитёры предъявили свой мандат и заявили, что им необходимо срочно встретиться с графом Мирбахом. Через несколько минут посол Германской империи спустился к ним в приёмную. Началась беседа. В какой-то момент Андреев сказал условную фразу:

— По-видимому, господину послу угодно будет знать меры, которые могут быть приняты по этому делу.

— Это я Вам сейчас покажу! — тут же воскликнул Блюмкин, вскочил со стула, выхватил из портфеля револьвер и выстрелил в посла, но промахнулся.

Блюмкин продолжал стрелять и в остальных, но стрелок из него был никудышный. Мирбах вскочил и побежал в другую комнату. Ещё два немецких дипломата, в присутствии которых велась беседа, в лёгком шоке остались сидеть в креслах, затем бросились на пол. Андреев бросил вслед Мирбаху бомбу, но она не взорвалась. Тогда Блюмкин схватил её и вновь швырнул об пол. Раздался оглушительный взрыв, из окон посольства вылетели стёкла. Мирбаха взрывом смертельно ранило в голову. После этого Андреев выпрыгнул в разбитое окно и полез через железную ограду — к машине. Блюмкин, инстинктивно, бросился за ним. Но в этот момент в террористов стала стрелять охрана, и Блюмкина ранили в ногу. Всё-таки ему удалось доползти до автомобиля. Шофёр доставил двух заговорщиков в штаб чекистского отряда в Трёхсвятительском переулке, дом 1, где он служил. Во главе отряда стоял левый эсер Д.И. Попов. Раненого Блюмкина они немедленно отправили в ближайшую больницу.

Яков Блюмкин понимал, что этот акт может стоить ему жизни, и в ночь на 6 июля написал предсмертное письмо. Имя адресата точно не установлено, но историки предполагают, что им был Борис Савинков. В своём письме Блюмкин писал: "Вы, конечно, удивитесь, что я пишу это письмо Вам, а не кому-нибудь иному. Вы ушли из партии, в которой я остался. Но, несмотря на это, в некоторых вопросах Вы мне ближе, чем многие из моих товарищей по партии. Я, как и Вы, — противник сепаратного мира с Германией и думаю, что мы обязаны сорвать этот постыдный для России мир каким бы то ни было способом, вплоть до единоличного акта, на который я решился...

Я — еврей, и не только не отрекаюсь от принадлежности к еврейскому народу, но горжусь этим, хотя одновременно горжусь и принадлежностью к российскому народу. Черносотенцы-антисемиты с начала войны обвиняли евреев в германофильстве и сейчас возлагают на евреев ответственность за большевистскую политику и за сепаратный мир с немцами. Поэтому протест еврея против предательства России и союзников большевиками представляет особенное значение..."

Тут же во все милицейские участки Москвы была направлена телеграмма следующего содержания: "Задержать и препроводить в уголовную милицию Якова Блюмкина. Приметы: высокого роста, голова бритая, обросший чёрной бородой, хромой, ввиду вывихнутой ноги. Одет в зелёный френч, может быть и синий костюм. У Блюмкина могут быть бланки Чрезвычайной комиссии". И тут же, следом, дополнение к телеграмме: "Роста Блюмкин выше среднего, чёрные волосы, лоб высокий, лицо бледно-желтоватое, густая круглая борода, у губ редкая. Тип еврейский. Одет в чёрную шляпу и синий костюм. Надлежит задержать ещё Николая Андреева. Приметы: небольшого роста, рыжеватый, нос горбатый, лицо тонкое, длинное, худощавый, глаза косят. Тип еврейский".

Вероятно, именно то, что Блюмкин оказался в больнице, помогло ему впоследствии избежать ареста. Хотя сам Блюмкин, готовый к самопожертвованию, и настаивал на своей выдаче чекистам. Андрееву удалось в тот же день бежать в Киев.

В тот же день ЦК ПЛСР выпустило своё ВОЗЗВАНИЕ:

В борьбе обретёшь ты право своё.

ПАРТИЯ ЛЕВЫХ СОЦИАЛИСТОВ-РЕВОЛЮЦИОНЕРОВ

Ко всем рабочим и красноармейцам.

Палач трудового русского народа, друг и ставленник Вильгельма граф Мирбах убит карающей рукой революционера по постановлению Центрального Комитета партии левых социалистов-революционеров.

Как раз в этот день и час, когда окончательно подписывался смертный приговор трудящимся, когда германским помещикам и капиталистам отдавалась в виде дани земля, золото, леса и все богатства трудового народа, когда петля затянулась окончательно на шее пролетариата и трудового крестьянства, — убит палач Мирбах.

Немецкие шпионы и провокаторы, которые наводнили Москву и частью вооружены, требуют смерти левым социалистам-революционерам.

Властвующая часть большевиков, испугавшихся возможных последствий, как и до сих пор, исполняют приказы германских палачей.

Все на защиту революции.

Все против международных хищников-империалистов.

Все на защиту борцов против германских насильников.

Вперёд, работницы, рабочие и красноармейцы, на защиту трудового народа, против всех палачей, против всех шпионов и провокационного империализма.

Вперёд к свержению германского империализма, морящего нас голодом.

Смерть всем насильникам и палачам империализма.

Позор всем, кто вместе с немецкими шпионами идут на подавление восставших против Вильгельма рабочих и крестьян...

Да здравствует мировая социалистическая революция".

Спустя три часа после покушения в отряд явился лично Феликс Дзержинский в сопровождении трёх сотрудников ВЧК и потребовал немедленно выдать ему Блюмкина и Андреева (в германском посольстве остался их мандат, шляпы и красный кожаный портсигар, потому вычислить террористов не было никаких проблем). Но, чтобы не выдать своих товарищей по партии, эсерам пришлось обезоружить и арестовать самого Дзержинского.

— Где Блюмкин? — спросил Дзержинский, обратившись к Попову.

— Уехал больной на извозчике.

— Кто это видел?

— Заведующий хозяйством, — пожал плечами Попов.

— Позовите его! — приказал Дзержинский.

— Я здесь.

— Мне доложили, что Блюмкин скрывается здесь, — своим колючим взглядом пронзил хозяйственника председатель ВЧК.

— Нет, он уехал в больницу.

— В какую?

— Почём я знаю.

— Хорошо, — Дзержинский снова повернулся к Попову. — Дайте мне честное слово революционера, что Блюмкина у вас нет.

— Даю слово, что не знаю, здесь ли он.

— Тогда я осмотрю помещение.

— Пожалуйста, — разрешил Попов.