В мае 1881 г., как указано выше, Алексей Александрович возглавил морское ведомство. Одновременно возглавил Особое совещание по усилению русского военного флота. Участвовал в разработке 20-летней судостроительной программы (1881), последующих планов военно-морского строительства. С февраля 1882 г. вице-адмирал, а в мае 1883 г. возведён в звание генерал-адмирала. В январе 1888 г. получил чин адмирала. В январе 1892 г. назначен членом Комитета министров и шефом Морского кадетского корпуса. Состоял покровителем Общества для содействия русской промышленности и торговле. В 1886 г. за службу пожалован орденом Св. Владимира I степени.

Большинство современников сходились в оценке Алексея Александровича. Гр. С. Ю. Витте писал: «Это был прекраснейший человек, весьма добрый, никому не делавший зла, очень приятный в своих сношениях, имеющий то качество, которым должен обладать великий князь, а именно благородство…»

Алексей Александрович был любимым братом Александра III, поэтому он имел большое влияние. Человек он был во всех отношениях достойный и прекрасный, но человек, который своих собственных государственных идей и вообще серьёзных идей не имел. Он был скорее склонен к личной удобной, приятной жизни, нежели к жизни государственной. Он имел тот недостаток, что не был женат, а потому всегда находился под влиянием той дамы, с которой он в данное время жил».

По словам князя Гавриила Константиновича, «он был очень похож на своего брата, Александра III, но красивее его». «Это был один из самых красивых по внешности членов императорской фамилии, — вспоминал генерал-лейтенант А. А. Мосолов. — Я убедился в Париже, насколько он поражал своей наружностью. Как-то, гуляя на бульварах, я заметил впереди себя высокого мужчину. Прохожие, видя его, останавливались, а некоторые даже восклицали: «Какой красавец!» Подойдя ближе, я узнал великого князя в штатском платье, с покупками в руках…» Алексей Александрович был человеком атлетической силы, обладал большой жизненной энергией и любил военно-морскую среду, в которой провёл большую часть своей жизни. Он жил в прекрасном дворце на Мойке, где, правда, весьма редко, но всё же иногда устраивал балы, но зато весьма блестящие и роскошно обставленные.

Давались они главным образом в царствование брата великого князя, императора Александра III, который временами их посещал. По свидетельству вел. князя Александра Михайловича, А. А. пользовался репутацией самого красивого члена императорской семьи, хотя его колоссальный вес послужил бы значительным препятствием к успеху у современных женщин. Светский человек с головы до ног, которого баловали женщины, Алексей Александрович много путешествовал. Одна мысль о возможности провести год вдали от Парижа заставила бы его подать в отставку… Трудно себе представить более скромные познания, которые были по морским делам у этого адмирала могущественной державы. Одно только упоминание о современных преобразованиях в военном флоте вызывало болезненную гримасу на его красивом лице. Не интересуясь решительно ничем, что бы не относилось к женщинам, еде или же напиткам, он изобрёл чрезвычайно удобный способ для устройства заседаний Адмиралтейств-совета. Он приглашал его членов к себе во дворец на обед. И после того как наполеоновский коньяк попадал в желудок его гостей, радушный хозяин открывал заседание Адмиралтейств-совета традиционным рассказом о случае из истории русского парусного военного флота» (50, с. 133-134).

В то же время современники единодушно считали, что Алексей Александрович в отличие от своего дяди вел. князя Константина Николаевича, флотскими делами занимался мало и слабо в них разбирался. А. Н. Крылов, критически оценивая деятельность Алексея Александровича, писал: «За 23 года его управления флотом бюджет возрос в среднем чуть ли не в пять раз; было построено множество броненосцев и броненосных крейсеров, но это «множество» являлось только собранием отдельных судов, а не флотом» (166а, с. 134). Всё это привело к негативным последствиям (развитию казнокрадства в морском ведомстве, замедлению темпов технического перевооружения флота, снижению его боеспособности) и в конечном счёте разгрому русского флота при Цусиме. Хотя в этом был виноват не только он. 2 июня 1905 г. в ходе Русско-японской войны 1904-1905 гг. Алексей Александрович освобождён от должности главного начальника флота и морского ведомства с оставлением в звании генерал-адмирала.

Последние годы большей частью провёл во Франции. Скончался в Париже 1 ноября 1908 г. от воспаления лёгких на 59-м году жизни. Похоронен в великокняжеской усыпальнице Петропавловского собора С. — Петербурга.

Женат не был. В конце 1860 — начале 1870-х гг. состоял в связи с фрейлиной императрицы, дочерью известного поэта В. А. Жуковского Александрой Васильевной Жуковской (1842-1899), ставшей впоследствии женой барона фон Вормана. В 1871 г. они просили императрицу Марию Александровну разрешить им повенчаться, но получили категорический отказ. Тайно обвенчались в Италии, но брак был аннулирован Александром II. В конце 1871 г. А. В. Жуковская родила в Зальцбурге сына Алексея, получившего титул барона Седжиано. Указом Александра III от 21 марта 1884 г. барон Алексей Седжиано возведён с нисходящим потомством в графское Российской империи достоинство с присвоением ему отчества Алексеевич и фамилии Белевской. Он был женат на княжне Марии Петровне Трубецкой (род. 1870 г.), младшей дочери действительного статского советника С. — Петербургского уездного предводителя дворянства князя П. Н. Трубецкого. Накануне Первой мировой войны гр. А. А. Белевской-Жуковский состоял шталмейстером высочайшего двора. После октябрьского переворота 1917 г. остался в России. В 1932 г. был расстрелян в Тбилиси. Он имел сына Сергея Алексеевича (ум. 1953) и двух дочерей. Одна из них, гр. Мария Алексеевна (1901-1996), в первом браке была за В. В. Свербеевым, во втором — за В. А. Янушевским. Скончалась она в Париже.

После романа с А. В. Жуковской Алексей Александрович не на шутку увлёкся младшей сестрой знаменитого генерала М. Д. Скобелева, красавицей Зиной (называемой Зинок), которая с 1878 г. состояла в морганатическом браке с герцогом Евгением Максимилиановичем Лейхтенбергским. В 1889 г. получила титул графини Богарнэ. «С наружностью и приёмами французской горизонталки, — писал о ней С. Д. Шереметев, — она соединяла чары своего прекрасного и обработанного голоса» (411, с. 103). Не случайно вел. князь Александр Михайлович свидетельствовал: «Когда я упоминаю её имя, я отдаю себе отчёт в полной невозможности описать физические качества этой женщины. Я никогда не видел подобной ей во время моих путешествий по Европе, Азии, Америке и Австралии, что является большим счастьем, так как такие женщины не должны попадаться часто на глаза. Когда она входила, я не мог оставаться с ней в одной комнате. Я знал её манеру подходить в разговоре очень близко к людям, и я сознавал, что в её обществе я становлюсь безответственным за свои поступки. Все молодые великие князья мне сочувствовали, так как каждый страдал при виде её так же, как и я. Находясь в обществе очаровательной Зины, единственно, что оставалось сделать, это её обнять…» Алексей Александрович становится неизменным спутником четы Лейхтенбергских. Герцог, «услужливый муж, почти постоянно пьяный», смотрел на этот роман сквозь пальцы, поэтому во время совместного путешествия по Европе неразлучную троицу нарекли, как manage royal â trois — «августейшая любовь втроём». Герцог, замечает Половцов, «лишённый всякого нравственного чувства негодяй, промышляющий тем, что вел. князь Алексей Александрович без памяти влюблён в жену герцогиню Богарнэ, которая вместе с мужем вытягивают из Алексея Александровича как можно больше денег» (296, т. 2, с. 396). Зинаида Дмитриевна с мужем часто посещала дворец великого князя, где чувствовала себя хозяйкой. Она открыто хвастала большим бриллиантом, полученным в подарок от Алексея по случаю своего дня рождения. Бомонд не упускал ни одного случая, чтобы позлословить о названной выше троице. «Одновременно со мной, — фиксирует Половцов, — находится в Париже вел. кн. Алексей Александрович, проживающий в отеле Continental с Зиной Богарнэ и её пьяным мужем» (296, т. 1, с. 341). Несколько позже Половцов отмечает в своём дневнике: «Алексей… просит позволения поехать в Париж навестить Зину Богарнэ, о чём последняя прислала телеграмму через своего мужа… Государь очень смущён этим ходатайством, говорит, что разрешил бы эту поездку, если бы была хоть какая-нибудь возможность устроить её под предлогом посещения строящихся за границей судов». На одном из приёмов, наблюдая за князем, Половцов, пишет, что он «думает лишь о том, как бы без нарушения приличий улизнуть поскорее и вернуться к кровати Зины. Скука крупными чертами изображается на его лице» (296, т. 2, с. 307). Роман великого князя с герцогиней продолжался до самой кончины прелестницы в 1899 г.