Весной 780 года аль-Махди назначил военачальником своего сына, которому только исполнилось 14, и отправил его в поход против Византии. Халиф полагал, что в походе юный Гарун сможет получить необходимую военную закалку. В то же время, как размышлял аль-Махди, его сын сможет завоевать уважение и любовь воинов. В итоге Яхья Бармакид заботился в походе о своем подопечном, а стратегические задачи решали опытные полководцы. Результатом высосанного из пальца «учебного» похода стала осада Самалы, и крепость продержалась в окружении 38 дней. Защитники в итоге сдались, и их угнали в Багдад. Позже они образовали христианское поселение на восточной границе города. Несмотря на то что византийцы вскоре отвоевали Самалу, военный поход отпраздновали как великую победу юного Гаруна.

В 782 году аль-Махди отправил сына завоевывать новые земли вплоть до самого Босфора. Условия, на которых Гарун заключил мир с побежденными, были выгодны аббасидам. В Багдаде придворные поэты воспевали военную мощь Гаруна. Они провозгласили, что Гарун с вознесенным копьем приблизился к самым стенам Константинополя, но за щедрый выкуп помиловал город и его жителей. Благодаря своему великодушию Гарун получил прозвище «аль-Рашид», «праведный», буквально — «тот, что ступает по верному пути». Его также провозгласили правителем Туниса, Египта, Сирии, Армении и Азербайджана.

В порядке наследования престола Гарун был вторым после старшего брата Мусы аль-Гади. Когда халиф аль-Махди умер в августе 785 года, аль-Гади занял его место (арабское слово «халиф» означает «наместник Бога на земле»), и Гарун подчинился своей судьбе. Когда в сентябре 786 года аль-Гади неожиданно скончался, поговаривали, что его отравила мать обоих братьев аль-Хазуран. Аль-Гади бурно протестовал против того, чтобы мать вмешивалась в его дела. Советник Яхья объявил, что халифом станет двадцатилетний Гарун.

После вступления на трон Гарун сделал Яхью своим визирем, равно как и его сыновей аль-Фадля и Джафара. Аль-Фадль был ровесником Гаруна, серьезным юношей и талантливым вельможей. Однако любимцем Гаруна стал младший сын Яхьи Джафар, известный своей склонностью к гедонизму. Аль-Хазуран до самой своей смерти в 789 году сохраняла большое влияние на управление халифатом. После ее кончины дела династии стали контролировать Яхья и другие Бармакиды.

Воинственная природа Гаруна аль-Рашида дала о себе знать, когда он занял трон. Первым делом он усилил границы войсками и обеспечил воинов снаряжением, чтобы в любой момент быть готовым провозгласить джихад — священную войну против византийцев. Гарун хотел, чтобы военные походы в Византию были ежегодными.

Как пишет историк Хью Кеннеди, походы (по-арабски «газават») к византийским границам были постоянным, практически священным ритуалом, исполнения которого народ всегда ожидал от правителя. Гарун умел завоевывать народную любовь с ранних лет. Джихад наравне с хаджем (паломничеством в Мекку) были отличительными признаками правителей-аббасидов. Каждое лето они отправлялись в военный поход, из которого войска возвращались только на зимовку. Мусульманская армия обычно разбивала лагерь к югу от Таврских гор и проводила там зиму. Весной, когда равнины покрывались зеленой травой и лошади были обеспечены пищей, армия вновь отправлялась воевать. Чаще всего походы огранчивались лишь небольшими пограничными стычками. Если бы аббасиды продвинулись вглубь Византии, то столкнулись бы с императорской армией.

Когда Гарун стал халифом, Багдад был одним из крупнейших городов мира. Он раскинулся по обе стороны Тигра. Гарун возвел посреди Багдада дворец, который был больше и величественнее, нежели дворцы прежних халифов. Правитель жил в изобилии и роскоши, окруженный сотнями придворных и рабов. Двор Гаруна представлял собой огромный институт, в который входило множество евнухов, наложниц, танцовщиц и других слуг. По слухам, число танцовщиц и служанок Гаруна доходило до 2000.

Гарун любил женщин. У него было шесть жен и двадцать четыре наложницы, от которых он имел детей. Он также охотно покупал красивых рабынь. Любимая жена халифа Зубайда в числе других почестей требовала, чтобы еду ей подавали на золотых тарелках. За одной только любимой обезьянкой Зубайды присматривало три десятка слуг.

Если в других дворцах курили благовония, то Гарун, согласно арабскому историку аль-Табари, использовал для ароматизации воздуха красивых женщин. Рядом с халифом всегда находились семь прислужниц в легких юбках, пропитанных благовониями, духами, шафраном и розовой водой. Девушки сидели на стульях, под которыми находились амбра и алойное дерево. Когда юбка девушки становилась сухой, она уступала место следующей, и так воздух в зале всегда был напоен ароматами.

Гарун любил музыку и поэзию и щедро одаривал творцов. Однако у халифа была и темная сторона — он с большим удовольствием наблюдал петушиные и собачьи бои. Гарун, знакомый всем по «Тысяче и одной ночи», был импульсивным садистом. В арабских сказках он скитался по улицам Багдада, переодетый в простую одежду, и его сопровождали охранник и палач Масрур, друг Абу Джафар и поэт Абу Нувас. Нельзя сказать точно, насколько легенды отражают действительность, но Масрур и Абу Нувас — реальные исторические личности. Абу Нувас считается одним из наиболее значимых багдадских поэтов.

Некоторые истории о Гаруне аль-Рашиде звучат настолько устрашающе, что непросто понять, как Альфреду Теннисону удалось найти в сказочном халифе хоть что-то доброе, не говоря уже о качествах, вызывающих восхищение. В одной из сказок (290-я ночь) Гарун гневается на Абу Нуваса и приказывает Масруру раздеть поэта догола, водрузить на него ослиное седло, уздечку и стремена. После этого Абу Нуваса, сопровождаемого хулой и насмешками, водят под уздцы по богатым палатам Гаруна. Когда вояж подходит к концу, халиф приказывает Масруру принести ему голову Абу Нуваса на блюде. Когда несчастный поэт встречает Джафара, тот изумляется публичным унижениям, которым подвергся Абу Нувас. Поэт говорит, что не совершал никаких преступлений, а лишь читал вслух свои лучшие стихи. В этот момент из-за занавеси появляется смеющийся от души Гарун. Халиф одаривает поэта внушительной суммой и вновь просит его составить компанию в ночных приключениях.

В другой сказке (400-я ночь) Гарун слышит от Масрура о весельчаке, который может рассмешить любого человека. Гарун требует, чтобы человек по имени Ибн аль-Кариб прибыл ко двору и постарался развеселить халифа, в противном случае его ждет наказание. Когда Гарун не смеется, несмотря на все усилия аль-Кариба, того избивают мешками, наполненными камнями и щебнем.

В Багдаде Гарун жил в роскошном дворце, окруженном пышными садами, однако ему было тяжело в душном и густонаселенном городе. В 796 году Гарун решил перенести центр правления на берега Евфрата, в северный город Ракку. Там правитель наконец обрел спокойствие и проводил время за игрой в човган (древняя конная забава, похожая на поло) и шахматы, бродил по лесу и по вечерам наслаждался поэзией. Кроме того, Ракка была расположена недалеко от границ заклятого врага халифа — Византии. В следующем году Гарун аль-Рашид предпринял новый поход против греков. Время он выбрал благоприятное, поскольку Византия находилась в хаосе. Императрица Ирина пленила и ослепила своего сына, императора Константина VI, но византийские военачальники ее не поддерживали. Вследствие этого войска Гаруна продвинулись вплоть до Эфеса, и Ирина вынуждена была пойти на уступки арабам.