Во время учебы сблизился с революционно настроенными учащимися, вступил в подпольный кружок Российской социал-демократической рабочей партии, вел активную революционную агитацию.

С началом Первой мировой войны восемнадцатилетний Крутянский мобилизован в армию и по заданию военной ячейки РСДРП (б) вел среди солдат революционную пропаганду, за что был отправлен в штрафную роту. Ему удалось бежать и эмигрировать в соседнюю Румынию, где он продолжил революционную деятельность. В 1915 году после вступления Румынии в войну на стороне Антанты приговорен Королевским судом к тюремному заключению. В 1917 году вследствие Февральской революции освобожден из тюрьмы по амнистии для политических заключенных, возвратился в Россию и включился в активную революционную работу.

После Октябрьской революции служил в бессарабской бригаде Красной гвардии. В одном из боев с войсками боярской Румынии был ранен. В начале 1919 года командовал эскадроном конных разведчиков, одновременно являлся секретарем Центрального бюро компартии Бессарабии.

Вскоре 23-летний Тодрес Крутянский был назначен политическим комиссаром Всеукраинского уголовного розыска, членом коллегии Всеукраинской чрезвычайной комиссии (ВУЧК). Здесь он сменил имя и фамилию и стал именоваться Федором Яковлевичем Кариным.

В 1919 году переведен в Москву, в оперативную часть Особого отдела ВЧК, где под руководством Артура Артузова борется с врагами советской власти.

В сентябре 1919 года московские чекисты ликвидировали разветвленный контрреволюционный заговор белогвардейского «Национального центра». В общей сложности чекисты при поддержке красноармейцев и рабочих московских заводов арестовали около семисот членов контрреволюционных террористических организаций, в основном бывших кадровых офицеров, которые планировали захватить Кремль и арестовать советское правительство во главе с В. И. Лениным.

В мае 1921 года чекисты вышли на след контрреволюционной организации «Народный союз защиты Родины и свободы», возглавляемой известным террористом эсером Борисом Савинковым. Для борьбы с савинковцами Артузов разработал операцию «Синдикат-2», в реализации которой принимали участие Карин и другие сотрудники ВЧК, среди которых, в частности, был ставший впоследствии знаменитым разведчиком Наум Эйтингон.

В феврале 1922 года Федор Карин стал сотрудником Иностранного отдела (ИНО) ГПУ.

Федор Карин, которому исполнилось всего 26 лет, идеально подходил для работы в Иностранном отделе. Помимо молдавского он свободно владел румынским, немецким и английским языками. Молодого, но уже опытного чекиста сразу же направили руководителем нелегальной резидентуры в Румынию, с которой у молодого Советского государства в ту пору не было дипломатических отношений. Резидент Карин передавал в Центр важную информацию о работе румынской разведки против нашей страны, о взаимоотношениях Бухареста с малой и большой Антантой, о военно-политических договорах Румынии с соседними странами. Видное место в работе возглавляемой им нелегальной резидентуры ГПУ занимали вопросы деятельности на территории боярской Румынии русских и украинских антибольшевистских группировок и отрядов, в том числе сторонников батьки Махно, укрывшегося на ее территории, выявление их связей с Россией, а также использование этих организаций румынскими спецслужбами.

Однако в Румынии Карин пробыл всего около полугода: ему пришлось покинуть Бухарест из-за угрозы, что его могли узнать по работе в Бессарабии.

Из Бухареста переведен заместителем руководителя нелегальной резидентуры в Вену, где продолжает работать по Румынии. В декабре 1922 года отозван в Москву. Работа Карина в командировке была признана успешной. В том же месяце командирован в Болгарию под прикрытием уполномоченного Всероссийского общества Красного Креста (ВОКК).

Находясь в Болгарии и занимаясь репатриацией русских беженцев, Карин вел также активную разведывательную работу по русской военной эмиграции. Одновременно возглавляемая им резидентура проводила большую оперативную работу по проверке репатриантов и вербовке среди них перспективных лиц.

Разумеется, эта деятельность Карина не осталась незамеченной для болгарских спецслужб, которые систематически устраивали провокации против разведчика.

9 июня 1923 года в Болгарии был совершен военно-фашистский переворот. Новые власти страны в октябре того же года закрыли представительство ВОКК в Софии. Вскоре Карин возвратился в Москву.

В марте 1924 года направлен в служебную командировку в Китай, в город Харбин под официальным прикрытием уполномоченного по репатриации. В Китае работал до 1927 года сначала заместителем, а затем руководителем «легальной» резидентуры. Одним из основных объектов внешней разведки органов госбезопасности в этом регионе являлась белогвардейская эмиграция, осевшая там после окончания Гражданской войны в России.

Руководимая Кариным резидентура завербовала русского эмигранта Ивана Трофимовича Иванова-Перекреста. Он имел обширные связи среди японских военнослужащих, сотрудников жандармерии, китайцев, служивших в японских учреждениях.

В 1927 году через Перекреста резидентура добыла совершенно секретный документ — «меморандум Танаки», в котором излагались планы завоевания Японией Маньчжурии, Китая, советского Приморья и Дальнего Востока. Как отмечается в «Очерках истории российской внешней разведки», «получение “меморандума Танаки” явилось крупнейшим достижением в работе советской внешней разведки против милитаристских устремлений Японии в период 1920-х — начала 1930-х годов».

Работа Карина в качестве резидента ОГПУ в Харбине была настолько успешной, что в начале 1930-х годов харбинская резидентура стала главной «легальной» резидентурой внешней разведки в Китае. Особое внимание Карин уделял террористическим планам японской военщины в Маньчжурии, каналам засылки японских разведчиков в СССР, деятельности антисоветских эмигрантских центров.

В 1927 году завершилась служебная командировка Федора Карина в Китай. За успешную работу в качестве резидента он был награжден нагрудным знаком «Почетный работник ВЧК-ГПУ (V)».

В ноябре того же года разведчик по линии Особой группы ОГПУ в качестве резидента-нелегала был направлен в США для организации работы с нелегальных позиций. Здесь он находился до середины 1928 года. Карину удалось обосноваться в Нью-Йорке, приобрести надежные документы, легализоваться и создать прикрытие для ведения работы с нелегальных позиций. Созданной им нелегальной резидентуре на связь была передана ценная агентура, которая добывала документы Госдепартамента США, в том числе копии докладов послов США в Европе и на Дальнем Востоке, а также некоторые материалы по экономической и научно-технической разведке.

В июне 1928 года по указанию Центра Карин из США переехал в Германию, где также возглавил нелегальную резидентуру. Интересно, что для въезда в эту страну он воспользовался подлинными швейцарскими документами своего друга и начальника Артура Артузова, настоящая фамилия которого была Фраучи.

Нелегальная резидентура Карина в Германии состояла из шести человек, включая курьера и содержателя конспиративной квартиры. Несмотря на это она располагала обширной агентурной сетью, имевшей выходы на белогвардейскую вооруженную организацию Русский общевоинский союз (РОВС) во Франции, правительственные учреждения Германии, Франции и США. В марте 1931 года Карин был переведен на нелегальную работу во Францию.