Получив назначение, Зенги направился в Мосул, куда вошел в октябре 1127 г. Первой задачей атабека стало создание новой администрации провинции; но немного позже ему пришлось выступить в поход, чтобы заставить соседей — эмиров вернуть Мосулу земли, захваченные ими при расширении своих владений. Поставленная цель скоро увенчалась успехом, поскольку Зенги спешил утвердить свою власть в Алеппо, на который постоянно нападали франки.

Овладев дорогой между Мосулом и Эдессой, он пожелал также взять в свои руки и контроль над путем из Мосула в Алеппо. Стоявший именно на этой дороге мусульманский Харран добровольно покорился тому, кто был уже признан поборником джихада.

В июне 1128 г. атабек, наконец, вошел в Алеппо, выполнив таким образом указ султана, который основывал сиро-месопотамское государство с двумя столицами (в Мосуле и Алеппо). Этот политический шаг давал множество преимуществ с военной и экономической точек зрения. В Мосуле формировались регулярные войска и бесчисленные отряды туркменов, необходимые для защиты Алеппо. Экономическое объединение упростило бы восстановление торговли в Алеппо, который сильно пострадал в результате частых и длительных нападений христиан. С другой стороны, двойное княжество требовало от своего правителя необыкновенной дипломатической ловкости в сочетании с острым политическим умом: ведь ему нужно было разбираться одновременно и в делах Сирии, и в опасных интригах Месопотамии. Вся его политическая жизнь пройдет под этим знаком двойственности: его деятельность будет более или менее равномерно распределена между Сирией и Месопотамией. Остается гадать, что стало бы с франкской колонизацией, если бы соперничество между султаном и халифом не помешало турецкому полководцу реализовать свои военные цели?

Едва он обосновался в Алеппо, как его предупредили, что султан вознамерился заменить его соперником. Тут же Зенги явился ко двору; он пробыл там три дня, но этого времени было достаточно, чтобы вручить сто тысяч динаров властителю, дабы тот подтвердил его назначение. В январе 1130 г. Зенги вернулся в Алеппо: между делом он провозгласил начало священной войны, в связи с чем потребовал военной поддержки сирийских князей. Бюри (стоящий во главе Дамаска) отправил ему войска, поставив во главе их собственного сына, который тогда правил Хамой. Атабек встретил его с почестями, затем приказал заключить его с эмирами в темницу и ускоренным маршем двинулся в Хаму. Город сдался без боя. Правящий эмир Хомса присоединился к армии Алеппо и Мосула и предложил выкупить Хаму. Зенги сделал вид, что согласен, получил значительную сумму и даже приказал совершить общую молитву от имени нового правителя, а затем повелел схватить обманутого покупателя! Его армия пришла в Хомс, где попыталась повторить тот же удачный ход, который совершила в Хаме. Чтобы пресечь сопротивление, атабек приказал публично бичевать своего пленника: с крепостных стен члены семьи и приближенные эмира могли видеть это печальное зрелище, но их боевой дух не ослаб. Дело было проиграно!

Мусульмане объединятся в единый фронт намного позднее, ибо беспричинная жестокость атабека и нарушение данного им слова сильно пугали сирийских эмиров и феодалов. Последние не будут отказываться от личной власти в пользу объединения и, заботясь только о сохранении собственных владений, дойдут в безрассудстве до того, что станут заключать союзы с франками, своими злейшими врагами.

В то же время, когда Зенги потерпел поражение у Хомса, ему вдруг представилась неожиданная возможность поправить положение: князь Антиохии Боэмунд II, самый блестящий паладин франкской Сирии, был убит в стычке с отрядом туркменов, промышляющих грабежом. Его вдова, дочь короля Балдуина II, обратилась к атабеку за помощью: она желала сохранить за собой власть в Антиохии! Скорый приезд короля Балдуина расстроил заговор, и Зенги ограничился коротким походом против пограничных крепостей, угрожавших Алеппо, после чего на три года исчез с политической сцены Сирии.

Несмотря на отъезд правителя, его политика продолжала проводиться: наместники Зенги в Джазире и Дьярбакире побуждали туркменов отправляться в Сирию: последние будут играть все более и более значительную роль в нападениях на позиции франков. Вернувшись в 1133 г., атабек вновь обратился к идее объединения мусульманской Сирии: Дамаск успешно оказывал сопротивление, а Хомсу пришли на выручку войска графа Триполийского; франки осознали ту опасность, которую представляло собой отчаянное стремление Зенги к объединению.

Однако турецкий полководец снова исчез: на этот раз он сражался в Месопотамии и на иранском плато. Во время многочисленных отъездов «поборника Веры» в Сирии устанавливается некое равновесие; князь Дамаска воспользовался им, чтобы создать движение оппозиции против Зенги, что дало ему возможность присоединить к своим владениям Хомс.

1137 г. становится свидетелем неожиданного возвращения Зенги — он, не теряя времени, осаждает Хомс! Восстанавливается прежнее единство. Христианская конница выступает в поход, чтобы защитить мусульманскую «свободу». Но с быстротой и отвагой настоящего стратега атабек снимает осаду Хомса и внезапно нападает на франкскую армию. Последняя, оказавшись в затруднительном положении, ищет убежище в замке, стоящем на границе и называемом жителями Запада Монферраном, а мусульманами — Бареном. Запертым в замке, как в ловушке, оказался и новый король Иерусалима, Фульк Анжуйский, зять и наследник Балдуина II. Уверенная в своей победе, конница Зенги объезжает всю страну и одерживает свои первые крупные победы… Куфр Таб и Маарат ан-Нуман отвоеваны. Небольшой Маарат перешел к крестоносцам в 1098 г. Среди всех местных жителей, оставшихся в живых, его обитатели как никто другой были настроены начать «священную войну», чтобы получить обратно «свои земли».

«Бывшие жители Аль-Маарры явились к Зенги и просили его вернуть их имущество, которое было отобрано у них франками. Он предложил им предоставить документы на право владения, а когда узнал, что этих бумаг больше не существовало, приказал навести справки по книгам записей поземельного налога, что хранились в Алеппо; и, по его приказанию, все дома, указанные как заплатившие налог, были возвращены их прежним владельцам» (Абу'л-Феда). Впервые механизм отвоевания был приведен в действие, а земли, захваченные силой, возвращались законным хозяевам. Для Маарата это было окончанием тридцатидевятилетнего ига, все возвращалось на свои места; но необъятный Сахель все же продолжал оставаться в руках христиан с Запада!

Осада Барена затягивалась, а новости, приходившие в лагерь атабека, были весьма неутешительны. Войска, вышедшие на подмогу из Иерусалима и Триполи, подходили все ближе, а император Константинополя, который для жителей Востока являлся главой всех христиан, готовился взять Антиохию приступом. За выкуп в пятьдесят тысяч динаров и право владения крепостью Зенги позволил осажденным уйти (август 1137 г.).

Опасения, вызванные присутствием императора, быстро рассеялись: он пришел не сражаться с атабеком, а уладить свои дела в Киликии и вновь призвать к подчинению своих переменчивых и беспокойных латинских подданных. В сентябре 1137 г. Иоанн Комнин отправил к Зенги послов, чтобы заручиться его расположением. Атабек ласково их принял и, щедро одарив, приказал сопроводить обратно под надежной охраной.