В 87 г. до н. э. разгорелась борьба между консулами этого года сулланцем Гнеем Октавием и популяром Люцием Корнелием Цинной. Страбон попытался было найти общий язык с Цинной, но тот не доверял Страбону и даже пытался возбудить воинов Страбона против их командующего. Большинство воинов не очень-то любили Страбона и были готовы откликнуться на подстрекательство Цинны, но вспыхнувший было бунт был усмирен смелыми действиями юного Гнея, находившегося в лагере отца. Вскоре Цинна был вынужден бежать из Рима, а затем четыре антисулланские армии двинулись на Рим. У оставшихся в Риме сулланцев сил было слишком мало, и они обратились за помощью к Страбону. После неудачной попытки договориться с Цинной Страбон держал в этой борьбе нейтралитет. Теперь же под предлогом выполнения поручения правительства он двинул свои войска к Риму и расположил их под стенами города. Он помог сулланцам отбить первое нападение марианцев, но от дальнейшего активного участия в гражданской войне фактически уклонился. Страбон явно стремился использовать сложившуюся ситуацию в собственных целях, рассчитывая, видимо, самому встать во главе государства или по крайней мере добиться своего избрания в консулы на 86 г. до н. э. Но именно тогда во время грозы в лагерь Страбона ударила молния и Гней Помпей Страбон так нелепо погиб в тот момент, когда казалось, что он был уже в одном шаге от верховной власти. В Риме едва ли сомневались в подлинных мотивах действий Страбона. Римляне боялись появления в городе нового полководца, а когда его смерть освободила их от этого страха, они дали волю своим чувствам: во время похорон толпа набросилась на процессию, сбросила тело бывшего консула с погребального ложа и надругалась над ним. В армии отца находился в это время и девятнадцатилетний Гней.

Военную службу юный Гней Помпей начал, вероятно, во время Союзнической войны в войсках отца. На последнем этапе войны он участвовал во взятии Аскула, несмотря на молодость, его пригласили на военный совет, созванный Страбоном под Аскулом. Был он с отцом и во время похода Страбона на Рим. Когда отец так нелепо погиб, Помпею было всего 19 лет, и он оказался в довольно трудном положении. Вскоре марианцы овладели Римом, и воины Цинны захватили и разграбили дом Помпеев. Самого Помпея привлекли к суду по обвинению в мародерстве при взятии Аскула, хотя всем была ясна политическая подоплека этого обвинения. Во время процесса юноша держался довольно твердо, умело защищаясь и опровергая обвинения. Еще важнее стало то, что он сумел завоевать расположение претора этого года Антистия, который и вел дело Помпея. Судья и обвиняемый заключили соглашение, согласно которому Помпей будет оправдан, но за это женится на дочери Антистия. О соглашении стало известно, и когда претор объявил о давно ожидаемом оправдательном приговоре, это объявление было встречено насмешками и издевками.

Помпей в скором времени действительно женился на Антистии. О его жизни после женитьбы ничего не известно. Но когда в 84 г. до н. э. Цинна готовился переправиться на Балканский полуостров для борьбы с Суллой, в его армии оказался и Помпей. Возможно, что, как и отец, он пытался сблизиться с всесильным тогда Цинной. Однако, не добившись этого, он еще до убийства Цинны покинул его армию и отправился, по-видимому, в Пицен, где располагались, как уже говорилось, его имения и жили наследственные клиенты Помпеев. Противостояние с Цинной и активное неприятие Гнея Папирия Карбона, ставшего одним из лидеров антисулланской коалиции (хотя тот некоторое время и оказывал ему покровительство), определили поведение Помпея в начавшейся гражданской войне. Когда в 83 г. до н. э. он узнал, что Сулла со своей армией высадился в Италии, он решил примкнуть к нему. В этой войне большинство италиков выступало против Суллы. Помпей решил использовать все свое влияние, чтобы не только не допустить присоединения пиценцев к врагам Суллы, но и набрать среди них дополнительные войска для него. В возрасте 23 лет он провозгласил себя полководцем, захватил город Ауксим и сделал его своим центром. По его приказу из города были изгнаны сторонники Карбона, а затем он стал набирать из окрестных жителей войска и снаряжение. Благодаря наследственному влиянию и богатству ему удалось в довольно короткий срок набрать за свой счет сначала один, а затем еще два легиона, т. е. 12–15 тысяч воинов, с которыми он и выступил навстречу Сулле. Значительную часть его воинов, видимо, составляли ветераны армии Страбона.

Антисулланские полководцы пытались помешать соединению отряда Помпея с основными силами Суллы. Они стремились окружить отряд Помпея и уничтожить его до соединения с Суллой. Но на счастье Помпея их действия не были скоординированы, что позволило Помпею напасть на них поодиночке. Первый удар он нанес по войскам бывшего претора Люция Юния Брута. В этом бою сам Помпей сумел поразить командира вражеской конницы, что вызвало беспорядочное бегство сначала всадников, а затем и пехоты противника. Неудачи, как это часто водится, вызвали раздоры среди противников Помпея, которые стали обвинять друг друга в этих неудачах, и это окончательно парализовало все попытки их противодействия молодому полководцу. В дело пришлось вмешаться консулу этого года Люцию Корнелию Сципиону, но Помпей сумел переманить на свою сторону часть его воинов, и тому пришлось бежать. Все это вынудило двинуться против Помпея наиболее авторитетного антисулланского командующего, бывшего консула Карбона. На этот раз переманить вражеских солдат Помпею не удалось, и на реке Эзии произошла битва, в которой войска Помпея одержали победу. После этой победы уже не существовало препятствий для соединения Помпея с Суллой. Еще до победы Помпея над Карбоном Сулла сам направился навстречу Помпею. Вскоре оба полководца соединились, и Помпей поставил своих воинов под командование Суллы. Блестящий и победоносный рейд Помпея доставил ему славу умелого полководца. И это признал даже Сулла, стоя встретивший двадцатитрехлетнего Помпея. Позже Сулла направил Помпея на помощь Квинту Цецилию Метеллу Пию, который сражался в Цизальпинской Галлии с его противниками. Метелл, находившийся в этой провинции и не желавший признать власть марианцев, сразу же, как только Сулла высадился в Италии, выступил в его поддержку и действовал довольно успешно. Однако позже он, по-видимому, несколько завяз и не смог одержать решительной победы, на которую Сулла надеялся. Говорят, даже, что Сулла, раздраженный отсутствием у Метелла быстрых успехов, вообще хотел заменить его Помпеем, но сам Помпей отказался, ссылаясь на нежелание оскорбить уже далеко не молодого и весьма уважаемого человека. В 82 г. до н. э. Метелл одержал победу над объединенными войсками консула Карбона и проконсула Норбана около Фавенции. Возможно, что в этом сражении принял участие и Помпей. В том же 82 г. до н. э. Карбон, потерпевший поражение у Фавенции, а затем и несколько других поражений, решил отправиться в Африку, надеясь сделать из нее оплот борьбы с сулланцами. При этом, однако, он бросил значительную часть своей армии на произвол судьбы. Но оставшиеся без командующего воины, тем не менее, не собирались сдаваться. Около Клузия Помпей встретился с этой армией и разбил ее, после чего сопротивление марианцев в этой части Италии было сломлено. Все эти победы молодого полководца доставили ему громкую славу. Сулла решил даже породниться с ним. Он заставил Помпея развестись со своей женой Антистией и жениться на его падчерице Эмилии. Правда, брак этот был недолгим, ибо Эмилия довольно скоро умерла при родах, и в 82 г. до н. э. Помпей женился на Муции, дочери знаменитого юриста и оратора Квинта Муция Сцеволы, которая родила ему дочь Помпею и сыновей Гнея и Секста. Этот брак имел для Помпея огромное значение. Муция была единоутробной сестрой Квинтов Цецилиев Метеллов Целера и Непота, и женитьба сблизила Помпея с семьей Метеллов, которая в то время обладала огромным влиянием в Риме. Его покойная жена Эмилия была не только падчерицей Суллы, но и дочерью одного из Метеллов. В результате получилось так, что, утратив родство с Метеллами после смерти жены, Помпей сразу же восстановил его новым браком.