Римлян заботила оборона соседних провинций. В начале II века силами римских солдат между устьем реки Прут и устьем Дуная была построена линия укреплений, названная Нижним валом Траяна (император Траян правил с 98 по 117 гг.). Севернее — между руслом Прута и руслом Днестра (Тираса) построили вторую линию укреплений — Верхний вал Траяна. Перед валами вырыли ров, а по верху валов поставили частокол высотой более четырех метров. На расстоянии одной римской мили (1500 м) в линиях укреплений располагались каменные форты с небольшими помещениями для воинов. Здесь могло быть расквартировано до тысячи пеших легионеров или до пятисот всадников. Между соседними фортами возвышались две деревянные или каменные башни на расстоянии 500 м друг от друга. Башни использовались как дозорные вышки или для передачи сигналов вдоль линии укреплений. С внутренней стороны вала проходила дорога, связывавшая форты и башни между собой. К югу от дороги проходил особый ров — «валуум». Этими укреплениями были взяты под защиту греческий город Тирас в устье Днестра, провинции Мизия и Дакия.

Эвакуируя свои войска, римляне оставили Херсонес под протекторатом Боспорского царства. И некоторое время горожане обращались за помощью к боспорским царям. Тем не менее зависимость от Боспора тяготила Херсонес. Херсонеситы предпочитали древнюю «свободу» и помощь римлян в борьбе со скифами. После долгих ходатайств император Антонин Пий (138-161 гг.), при котором Римская империя достигла расцвета, даровал городу права «элевтерии» (свободы, точнее самоуправления), и в Херсонесе вновь появился римский гарнизон.

Археологические исследования, активно проводившиеся на территории Херсонеса на протяжении всего XX века, убеждают в том, что в юго-восточной части города римляне выстроили казармы Восточного Легиона, названные «контубернием». (Здание казарм было разделено рядами небольших помещений, приспособленных для постоя малых подразделений-контуберниев, числом из 8 солдат каждое.) Не исключено, что в Херсонесе размещалась «первая» — главная когорта легиона числом в 800 воинов под командованием трибуна. Да и сама юго-восточная оконечность города стала превращаться в «цитадель», ибо в крайнем восточном ее углу возвели мощную башню, названную Сиагр — «Кабан». Усилили соседние башни и замкнули юго-восточный угол стеной, отгородившись от гражданской территории. Здесь же были построены и римские бани-термы. Правда, римляне заботились не только о своем комфорте и своей безопасности. Перед древними воротами и южным сектором стен, там, где легче всего было напасть на город, римские инженеры возвели «протехисму» — передовую стену. Эта внешняя стена должна была препятствовать подвозу стенобитных штурмовых орудий. Ворота в протехисме и в основной стене были расположены далеко друг от друга. Если бы противник ворвался в ворота протехисмы, то ему пришлось бы преодолевать значительное расстояние, подставляя бьющим со стен и башен стрелам, копьям и камням незащищенный щитом правый бок. Были укреплены и сами южные ворота, закрывавшиеся мощными створами с поперечным брусом и «катарактой» — решеткой, опускаемой по вертикальным пазам. Пространство между створами и «катарактой» могло засыпаться камнями. Западнее, за несколько сот метров от древних ворот, в той же южной стене были устроены еще одни — фланкирующие ворота, тоже защищенные «протехисмой». Они назывались Мертвыми, т.к. одновременно выводили к кладбищу. На стенах и башнях появились солдатские караулы, бряцавшие оружием и доспехами. Херсонес стал превращаться в неприступную римскую крепость на северных рубежах империи. Но не только оборонительные мероприятия изменили облик и культурную жизнь Херсонеса, превратив его в один из типичных городов римского мира. Во II-III вв. орхестра амфитеатра — полукруглая площадка для театрального хора и сцены — была переоборудована для иных зрелищ. Теперь амфитеатр неистовствовал и ревел двумя тысячами глоток, а на арене разворачивались кровавые гладиаторские схватки, сопровождавшиеся предсмертными криками, стонами раненых и звериным рыком. Херсонесский гарнизон не был единственным римским гарнизоном на Крымском полуострове. Крупные силы сконцентрировались в районе Балаклавы. Здесь римляне даже выстроили большой храм, украшенный скульптурами и посвятительными надписями. В среднем течении р. Альмы находилось позднескифское поселение (Альма-Кермен). Во II веке римляне прогнали скифов и построили здесь свой укрепленный лагерь. Они возвели несколько зданий и мастерскую по производству стеклянной посуды. Римский пост на Альме имел важное стратегическое назначение, поскольку он угрожал скифским владениям в Таврии. Впрочем, вскоре изменившаяся военно-политическая ситуация заставила римлян покинуть это укрепление. На мысе Ай-Тодор на Южном берегу Крыма римские инженеры построили крепость Харакс. Задачей гарнизона крепости было, по-видимому, обеспечение безопасного прохода судов вдоль берегов Крыма и борьба с пиратами. Харакс окружали два ряда крепостных стен, внутри которых находились термы, казармы и другие постройки. У внешней стороны стен возвели храм Юпитера Капитолийского. Отряд строителей-бенефициариев проложил дорогу, соединившую Харакс и Херсонес. Римские гарнизоны в крепостях содержались за счет разного рода податей, собираемых с горожан и окрестного населения. Иногда римляне взыскивали больше, чем им полагалось. Под влиянием Рима произошли изменения в «конституции» Херсонеса. Число городских коллегий было сокращено, доступ в городской совет и к вышестоящим должностям ограничен. Все управление и власть сосредоточились в руках узкого круга наиболее знатных и богатых семейств, уподобившихся римскому нобилитету.

Во второй половине II века положение Херсонеса вновь серьезно осложнилось. На этот раз на владения империи в Таврии напали воинственные индо-иранцы кочевники-сарматы. Археологические исследования в Нижнем Поволжье и в заволжских степях показали, что культура сарматов была близка к скифской. В течение веков сарматы продвигались на Запад и вытесняли скифов. Скифы частично подчинились сарматам и смешались с ними. Часть скифов отступила в лесную зону Восточной Европы и постепенно смешалась там с финно-угорскими племенами и праславянами, образовав так называемую «дьяковскую культуру» (в среднем течении реки Москвы). Еще одна часть скифов ушла в Сибирь. Сарматы же не образовали единой державы, подобной той, которая существовала у «царских скифов». Долгое время они делились на 4-5 племен. Восточнее других в степях Восточной Европы кочевало их самое сильное и многочисленное племя аланов. Социальный уклад сарматов был близок к скифскому. Однако обычаи степняков сарматской эпохи отличаются от скифских большей простотой. Археологи утверждают, что их курганы не содержат большого числа драгоценных вещей, как курганы царских скифов. Вместо изящных предметов греческой работы, находимых в скифских захоронениях, в сарматских курганах находят варварские украшения из золота со вставленными в них полудрагоценными камнями. (Современные лингвистические и археологические исследования намечают генетическую связь славянства со скифо-сарматским населением степей Причерноморья).

Появление сарматов в Таврии вызвало беспорядки в самом Херсонесе. Римские легионеры отказались участвовать в походе против нового врага, требуя выплатить им жалование. Однако городской совет прибег к компромиссному соглашению с гарнизоном, восстановил порядок и стал готовиться к обороне. Одновременно горожане обратились за помощью к правителю Мизии Титу Аврелию Кальпурниану Аполлониду. В 174 г. Аполлонид прибыл в Таврию и с помощью подкупов и угроз принудил сарматов заключить договор, по которому варвары гарантировали неприкосновенность Херсонеса и владений империи на Дунае. Однако известия о варварских народах, обитавших севернее Таврии в бескрайних пределах Восточной Европы, не давали покоя цивилизованным грекам и римлянам.