В 1934–1935 годы — начальник 2-го отдела Экономического управления (ЭУ) ГПУ при СНК Украинской ССР. C 1935 по 1937 год — начальник Криворожского горотдела НКВД, врио начальника, начальник Управления НКВД по Зейской области.

Врио начальника 11-го отделения 5-го отдела ГУГБ НКВД СССР.

С марта по август 1938-го — начальник отделения 2-го управления НКВД СССР, затем с 1938 по 1939 год — заместитель начальника Особого отдела НКВД Северо-Кавказского военного округа, а с 1939 по 1940-й — заместитель начальника Особого отдела НКВД Ленинградского военного округа, с июля 1941 года — начальник Особого отдела НКВД Северо-Западного фронта, с октября 1941-го по октябрь 1943 года — начальник Особого отдела НКВД/УКР Смерш Калининского фронта.

В октябре 1943 года назначен начальником УКР Смерш 1-го Прибалтийского фронта / Прибалтийского военного округа.

С апреля 1947 года — начальник 2-го управления 3-го Главного управления МГБ СССР.

Умер в Москве 29 апреля 1948 года.

С 1 января 1942 года начальник Особого отдела НКВД Калининского фронта старший майор ГБ Н. Г. Ханников специальным сообщением «О настроениях личного состава частей и дивизий в связи с наступлением войск Красной Армии» информировал заместителя начальника Управления особых отделов НКВД СССР комиссара ГБ 3-го ранга тов. Мильштейна. В этом сообщении с чувством удовлетворения сообщал:

«Победоносное наступление частей Красной Армии, блестящие операции по изгнанию немецких захватчиков из целого ряда наших городов вызвали среди личного состава частей и дивизий небывалый патриотический подъем. Командиры, политработники и бойцы горят одним желанием: быстрее разделаться с проклятыми фашистскими извергами и отомстить немецким палачам…

Многочисленные отклики бойцов и командиров на передаваемые по радио сводки Информбюро и на газетные материалы «Правды», «Известий» и «Красной Звезды» отражают воодушевление, радость и еще большую уверенность в своих силах…»

А дальше шли примеры патриотических рассуждений воинов разных должностей и частей. В конце сообщения констатировалось:

«По всем фактам настроений личного состава информированы на месте командование частей и Военный совет фронта.

Выявленный антисоветский элемент, материалов для ареста которого недостаточно, взят в… разработку».

Это была тоже часть большой и важной работы военных контрразведчиков, вместе с армейцами разгромивших под Москвой немецкую группировку армий «Центр», которой не удалось осуществить план «Тайфун».

Работа с внедрением своей агентуры в разведывательные органы противника не затихала на фронтах, как говорится, ни на минуту. Одной из блестяще проведенных операций Управлением контрразведки Смерш 1-го Прибалтийского фронта под руководством Н. Г. Ханникова было целевое направление в Смоленскую диверсионную школу нашего разведчика К. С. Богданова. Бывший командир взвода, младший лейтенант РККА Богданов в августе 1941 года попал в плен, где был завербован сотрудниками абвера, после чего прошел обучение в Смоленской диверсионной школе. После переброски его в советский тыл он добровольно явился с повинной в органы Смерша.

Изучение его армейскими контрразведчиками показало, что он может быть использован в дальнейшем против немцев на негласной основе. В июле 1943 года после соответствующей подготовки он был переправлен через линию фронта под легендой агента, выполнившего «задание».

Немцы приняли его с радостью, наградили за заслуги и назначили командиром взвода в Смоленской диверсионной школе, присвоив ему офицерское звание германской армии. За время пребывания в школе Богданов склонил к сотрудничеству шесть агентов-диверсантов, которые после перехода линии фронта явились с повинной в органы ГБ.

В октябре 1943 года Богданова назначили руководителем группы для проведения карательной операции против партизан в районе Орши. Во время формирования группы он убедил ее командира Афанасьева перейти вместе с курсантами в партизаны. В результате в Руднянском лесу Богданов с Афанасьевым привели в 16-ю Белорусскую партизанскую бригаду 88 человек, которые в дальнейшем зарекомендовали себя только с положительной стороны в борьбе с фашистами.

По возвращении в органы Смерша Богданов сообщил установочные данные на 12 официальных сотрудников и 53 агентов Смоленской диверсионной школы.

В начале апреля 1943 года при обсуждении вопроса о реорганизации особых отделов НКВД и создании в системе НКО СССР специального органа военной контрразведки под названием Смерш своими соображениями поделился начальник Особого отдела НКВД Калининского фронта Н. Г. Ханников. Он говорил о важности деятельности отрядов народных мстителей, география которых постоянно ширилась, охватывая все новые и новые территории, оккупированные врагом. Он подчеркнул актуальность в необходимости обслуживания армейскими чекистами партизанских отрядов и устранения двойного подчинения работников особых отделов.

В феврале 1943 года генерал-майор Н. Г. Ханников доложил шифровкой В. С. Абакумову о том, что на участке обороны 8-й Гвардейской дивизии (бывшая 316-я Панфиловская дивизия. — Прим. авт.), входившей в состав Калининского фронта, немецкая разведка перебросила через линию фронта на советскую территорию трех агентов с коротковолновой приемно-передающей радиостанцией. Группа попала в переплет — она напоролась на смершевскую засаду и после перестрелки, поняв, что сопротивление бессмысленно, сложила оружие.

Первичный допрос показал, что абверовский разведцентр поставил перед ними задачу — пробраться в город Торопец, собрать сведения о военном гарнизоне, выяснить характер грузов, прибывающих на станцию, и производится ли переброска воинских частей по дорогам, ведущим к городам Холм и Великие Луки.

Присутствовавший при первом допросе неприятельских агентов начальник фронтовой контрразведки Н. Г. Ханников спросил радиста:

— Какой срок вам поставили фашисты на выполнение задания?

— Пятнадцать дней, — последовал ответ.

— А дальше? — поинтересовался Николай Георгиевич.

— Через 15 дней после переброски в расположение советских войск мы должны были закопать рацию и вернуться обратно с собранными материалами в разведцентр, — правдиво ответил радист, который, как оказалось, был инициатором явки с повинной и вызывал наибольшее доверие у военных контрразведчиков из всей троицы.

По приказу Ханникова радиостанцию включили в оперативную игру с немцами, дав ей условное наименование «Пешеходы». Радиоигра велась УКР Смерш КФ с 9 по 20 февраля 1943 года. За это время радиостанция «Пешеходы» передала шесть радиограмм, содержащих дезинформационные сведения о продвижении через станцию Торопец частей Красной армии и воинских грузов, а затем закончила игру, сообщив противнику, что в соответствии с инструкцией агенты возвращаются обратно.

Дезинформация была согласована с командованием Калининского и Ленинградского фронтов с санкции Генштаба ВС СССР. Затем в ответ на приказ Центра срочно возвратиться была послана последняя радиограмма: