Следующий контакт состоялся через две недели: Рихард встретился с местным художником Мияги Йотоку — Джо, и второй член группы понравился ему. Это был энергичный человек, родился он на Окинаве в семье простого земледельца. От нужды отец уехал на заработки в США, куда вскоре перебрался и Мияги. Там проявился его талант художника, он окончил художественное училище в Сан-Франциско. Работая в США, познакомился с марксистскими идеями, поверил в коммунистическую идеологию. Вступил в Компартию США, выполнял партийные поручения. После привлечения к сотрудничеству военной разведкой без колебаний согласился вернуться в Японию, чтобы работать в составе разведывательной группы.

Рихард думал, как ему лучше использовать Джо, и решил нацелить его на сбор военной информации, рекомендовав искать старых знакомых в армейской среде и собирать через них сведения о вооруженных силах Японии. Он также мог бы писать портреты старших офицеров и генералов — они любили позировать и украшать своими изображениями свои жилища — и во время сеансов вести с ними целенаправленные беседы. Затем Зорге дал ему задание найти японского журналиста Одзаки Ходзуми, передать ему привет от старого знакомого по Китаю и организовать с ним встречу. Художник пообещал сделать это в самое ближайшее время.

Мияги быстро нашел журналиста, и вскоре Рихард увидел своего друга и соратника по работе в Китае. Он опасался, не изменились ли его прежние взгляды, согласится ли он работать на советскую разведку на японской территории, где это намного труднее и опаснее, чем в китайских условиях. Но Одзаки остался прежним и согласился работать с Зорге.

Отто, таким был прежний оперативный псевдоним Одзаки, рассказал о своей жизни после возвращения из Китая. Он жил в городе Осака, работал журналистом в иностранном отделе газеты «Осака Асахи», был известен как крупный специалист по Китаю, написал несколько книг об этой стране. Одзаки владел обширной информацией, имел множество знакомых как в кругу высокопоставленных политиков, так и в промышленных и военно-промышленных кругах и был готов передавать Рихарду все интересующие его сведения.

Для встречи с радистом Бернхардом Зорге совершил поездку в Йокогаму, где тот должен был оборудовать радио квартиру и собрать передатчик. Рихард сразу обратил внимание, что Бернхард нервничает и словно чего-то сильно боится. Он показал Рамзаю радиостанцию и сказал, что ему ни разу не удалось установить связь с Владивостоком. По его словам, он все делал по инструкции, однако «Висбаден» не отвечал. Кроме того, у Бернхарда возникли трудности с легализацией, он так и не смог открыть свою фирму в городе, как ему рекомендовали в Центре, Зорге постарался успокоить своего радиста, но напомнил ему, что его главная задача — обеспечение радиосвязи и он должен сделать для этого все возможное.

Нелегальная резидентура могла начать работу. Рихард распределил обязанности между всеми членами группы. Сам он помимо общего руководства и обеспечения необходимых мер конспирации работает в германском посольстве и немецкой колонии, расширяет официальные контакты в японских кругах. Отто — используя свои связи, добывает информацию по военно-политическим и военно-промышленным вопросам. Джо — добывает сведения о состоянии армии и флота Японии, их техническом оснащении, производстве нового вооружения. Жиголо — используя свои официальные связи, добывает информацию о политике США, Англии и Франции в отношении Японии, организовывает фотокопирование документов. Бернхард обеспечивает устойчивую радиосвязь с Центром, а также оборудует вторую радиоквартиру в Токио. Женщины — жены Жиголо и Бернхарда — выполняют отдельные поручения, в случае необходимости используются в качестве курьеров. Членам группы запрещены контакты друг с другом без разрешения резидента.

Постепенно накапливалась информация, которую можно было направлять в Разведуправление, но беспокоило отсутствие радиосвязи.

В начале января 1934 года в Токио прибыл курьер из Москвы. Рамзай встретился с ним и после обмена паролями, не привлекая внимания окружающих, обменялся с незнакомым мужчиной небольшими пакетами одинакового цвета.

В своем пакете он передал письмо на имя Берзина, в котором сообщал, что начальный этап развертывания резидентуры проходит успешно, он установил доверительную связь с послом Германии, имеет доступ к важной информации немецкого диппредставительства, но радиосвязь с Центром организовать не удалось, кроме того, у Бернхарда проблемы с легализацией. Кроме того, посылал краткое донесение об обстановке в Японии, в котором подчеркивал, что в текущем году Япония не развяжет войну против СССР. Рихард вложил в пакет и короткое письмо жене, в нем было всего несколько строк: «Скучаю по дому… высылаю тебе 10 долларов, купи, что хочешь…»

Так началась практическая деятельность резидентуры «Рамзай». Весь 1934 год прошел в напряженной работе. Рихард основное внимание уделял работе в германском посольстве. К нему, как специалисту по проблемам Дальнего Востока, постоянно обращались многие дипломаты, в том числе военный и военно-морской атташе, а также глава торгового представительства Германии. Посол Дирксен по-прежнему пользовался его услугами, он все больше доверял Зорге, а разведчик получал от него еще более важные сведения.

Дирксен рассказал Рихарду, что его перед отъездом в Токио принимал Гитлер и прямо сказал об основной задаче нового посла: добиться политического сближения Германии с Японией на антисоветской основе. Однако японский МИД отнесся к немецкому предложению весьма прохладно. Японцы выжидали, предпочитая наблюдать за действиями руководства Третьего рейха во внутренней и внешней политике. При этом многие представители высшей власти и военных кругов Японии были настроены крайне антисоветски. Фон Дирксену было трудно объяснить Берлину причины такой сдержанности. Рихард помог послу разобраться в местной политической кухне и предложил оказать помощь в составлении донесения в министерство иностранных дел Германии. Посол был в восторге и через некоторое время сам обратился к Зорге с просьбой помочь подготовить важный политический доклад «Виды на сохранение мира в Восточной Азии». Рихард, получив текст этого документа, написанный сотрудниками посольства, внес ряд дополнений. Ему также удалось сфотографировать окончательный вариант доклада, в котором делался вывод, что в 1934–1935 годах на Дальнем Востоке большой войны не произойдет. Для непосредственного военного столкновения Японии с США нет ни объективных, ни субъективных предпосылок. В китайско-японских отношениях достигнута определенная стабильность и, несмотря на присутствие японцев в Северном Китае, начинать конфликт ни одна из сторон не хочет. Наибольшие же опасения вызывают японо-советские отношения, определяемые агрессивными намерениями Токио в отношении северного соседа. Однако японская армия еще не завершила программу перевооружения и в ближайшие один-два года воевать против сильного противника не готова. Дорабатывая этот документ, Зорге получил разрешение посла знакомиться в делопроизводстве диппредставительства с предыдущими донесениями подобной тематики. Он сблизился с двумя секретарями, работавшими там, которые позволяли ему не только получать, но и выносить документы из посольства под предлогом изучения в домашних условиях, где никто не мешал.