Единственные «светлым пятном» этого смутного времени стал выход в финал Кубка Шотландии сезона 1975/1976, в котором «Хартс», возглавляемый Джоном Хагартом, со счетом 1:3 уступил футболистам «Рейнджерс». Лидерами той команды были ветераны Джим Крукшенк и Алан Андерсон, защитники Джим Джеффрис (341/6, 1967–1981), Дэвид Клуни (342/10, 1966–1977) и Рой Кей (235/4, 1970–1977), полузащитник Джим Браун (416/29, 1968–1979), атакующий полузащитник Дональд Парк (289/52, 1972–1979, 1983–1985), игроки середины поля Бобби Пренстис (231/27, 1973–1979) и Кэмми Фрейзер (217/25, 1975–1983), нападающие Вилли Гибсон (339/124, 1973–1981) и Дрю Басби (274/91, 1973–1979).

Ситуацию помог изменить приход нового председателя Уоллеса Мерсера, и в 1986 году «Хартсу» под руководством бывшего полузащитника «Рейнджерс» Алекса Макдональда, который в 1980–1985 годах защищал цвета «сердец», не хватило всего нескольких минут, чтобы выиграть чемпионский титул. И «Селтик», и «Хартс» показали в сезоне 1985/1986 абсолютно одинаковые показатели (+20=10–6), но разность забитых и пропущенных мячей была лучше у футболистов Глазго (67–38 против 59–33 клуба из Эдинбурга). Неудачно выступил в этом сезоне «Хартс» и в финале Кубка Шотландии, проиграв 10.05.1986 «Абердину» со счетом 0:3.

В финальном матче за «Хартс» выступали: Генри Джордж Смит из резерва «Лидс Юнайтед» (690, 1981–1996), Уолтер Кидд (530/14, 1977–1991, 1994–1995), обладатель Кубка УЕФА 1972 года в составе «Рейнджерс» Уильям («Санди») Пуллар Жардин (277/3, 1982–1988), Крейг Уильям Левейн из «Коуденбит ФК» (450/21, 1983–1997; в 2000–2004 главный тренер «Хартс», в 2009–2012 возглавлял сборную Шотландии), Брайан Уиттакер из «Селтика» (254/4, 1984–1990), Гари Макей (651/88, 1980–1997), Нил Берри из «Болтон Уондерерс» (360/13, 1984–1996), Кеннет («Кенни») Джордж Блэк из «Мотеруэлла» (264/27, 1984–1989), Джон Марк Колхун из «Селтика» (488/101, 1985–1991, 1993–1997), Санди Кларк из «Рейнджерс» (202/57, 1984–1989, 1993–1994), форвард сборной Шотландии Джон Грант Робертсон, воспитанный в юниорской команде «Эдина Хибс БК» (709/312, 1982–1988, 1988–1998).

Команда снова финишировала на втором месте в сезонах 1987/1988 и 1991/1992, под руководством Джима Джеффриса проиграла «Рейнджерс» в финале Кубка Шотландии сезона 1995/1996 (1:5) и в финале Кубка Шотландской лиги сезона 1996/1997 (3:4).

В сезоне 1997/1998 «Хартс» выиграл Кубок Шотландии, наконец-то победив в финале «Рейнджерс» со счётом 2:0. По мячу в каждом тайме забили воспитанник «Рэйт Роверс» Колин Кэмерон (с пенальти) и прибывший из «Меца» француз Стефан Люсьен Адам.

За победителей в финале играли: французский голкипер Жиль Руссе из «Ренна» (180, 1995–2000), Дэйв Макферсон из «Рейнджерс» (407/37, 1987–1992, 1994–1999), защитник сборной Шотландии Дэвид Гиллеспи Уэйр из «Фалкирка» (125/13, 1996–1999), Пол Саймон Ритчи (182/9, 1993–1999), Гари Эндрю Нейсмит (135/4, 1996–2001, 2013–2014), игрок сборной Австрии Томас Флёгель из «Аустрии» (182/14, 1997–2002), Колин Кэмерон (201/61, 1996–2001), Стефано Сальватори из итальянской «Аталанты», Стив Фултон из «Фалкирка» (263/22, 1995–2002), Нил Дохерти Макканн из «Данди» (139/27, 1996–1998, 2006–2008), Стефан Адам (145/35, 1997–2002), которого заменил Джим Гамильтон из «Данди» (78/40, 1996–1999). Ветеран Джон Робертсон остался в запасе.

Начало XXI века ознаменовалось для «Хартса» приходом нового владельца в лице литовского предпринимателя Владимира Романова, но, несмотря на осуществлённые им инвестиции, клуб так и не смог нарушить гегемонию «Селтика» и «Рейнджерс», преимущественно борясь за попадание в первую тройку.

Единственным успехом стало второе место в чемпионате и победа в Кубке Шотландии в сезоне 2005/2006 году, когда «Хартс», который тренировал бывший полузащитник олимпийской сборной СССР литовец Вальдас Иванаускас, в серии пенальти победил клуб «Гретна» (из-за географического положения города Гретна на границе Англии и Шотландии одноимённый клуб в период с 1946 по 2002 год был членом Футбольной ассоциации Англии). Основное и дополнительное время матча завершилось со счетом 1:1, а в серии пенальти «сердца» победили со счетом 4:2.

Цвета «Хартс» в победном финале защищали: голкипер сборной Шотландии Крейг Синклер (Энтони) Гордон (191, 2001–2007), Робби Нильсон (280/2, 2000–2009), Стивен Джон Прессли из «Данди Юнайтед» (капитан; 366/28, 1998–2006), игрок сборной Сенегала Ибрагим Талл, чемпион Европы в составе сборной Греции Панайотис («Такие») Фиссас из «Бенфики», полузащитник сборной Литвы Дейвидас Чеснаускис, игравший в московских клубах «Динамо» и «Локомотив», которого на 86-й минуте заменил Саулюс Миколюнас из ФК «Каунас» (143/15, 2005–2009), полузащитник молодежной сборной Португалии Бруно Жуан Мораиш Агиар (на замену вышел француз Жульен Брелье из «Венеции»), Пол Джеймс Хартли из клуба «Сент-Джонстон» (165/41, 2003–2007), полузащитник сборной Чехии Рудольф («Руди») Скацел из «Панатинаикоса» (автор единственного гола, забитого на 39-й минуте первого тайма), чех Роман Беднарж из клуба «Млада Болеслав» (Михал Поспишил из «Слована» Либерец), нападающий сборной Литвы Эдгарас Янкаускас, с 2003 по 2005 год защищавший цвета «Порту» и «Ниццы».

В ноябре 2011 года, сменив к этому времени несколько специалистов, включая и вернувшегося во второй раз в клуб Джима Джеффриса, Владимир Романов заявил о своём намерении продать «Хартс».

Возглавивший после ухода Джеффриса клуб португальский тренер Паулу Сержиу в свой первый же сезон привёл «Хартс» к победе в Кубке Шотландии сезона 2011/2012, победив в полуфинале «Селтик» (2:1), а 19.05.2012 разгромив на «Хэмпден Парк» своего исторического соперника «Хайберниан» со счётом 5:1. Дважды отличился Скацел, по мячу забили защитники Даррен Барр, Дэнни Грейнджер (с пенальти) и Райан Макгоуэн.

Это был четырнадцатый финал в истории клуба и восьмой победный. До этого дня последнее «свидание» представителей эдинбургского дерби в финальном поединке Кубка страны было зафиксировано в 1896 году. Тогда на стадионе «Логи Грин» футболисты «Хартс» переиграли своих земляков со счётом 3:1.

Вот, кто играл за «Хартс» в этом матче: Джейми Макдональд, Дэнни Грейнджер из «Сент-Джонстон», Даррен Барр из «Фалкирка», вернувшийся в клуб из «Данди Юнайтед» Эндрю («Энди») Нил Уэбстер (289/16, 2001–2006, 2011–2013), игрок сборной Австралии Райан Макгоуэн, Марюс Жалюкас из ФК «Каунас» (247/16, 2006–2013), испанец Хесус («Сусо») Мануэль Сантана Абреу из «Тенерифе» (Крейг Битти из «Суонси Сити»), Иан Блэк из «Инвернесс Каледониан Тисл» (Скотт Робинсон), Эндрю Дэвид Драйвер (187/20, 2006–2013), которого заменил марокканец Мехди Тауил из «Килмарнока», Рудольф Скацел (110/48, 2005–2006, 2010–2012), нападающий сборной Ирландии Стивен Эллиотт из «Перстон Норт Энд». Лучшим игроком матча был назван чех Рудольф Скацел.

Несмотря на этот успех и желание продолжить работу с коллективом, согласовать новый контракт с «Хартсом» Паулу Сержиу не смог и покинул клуб. Вскоре после этого новым менеджером был назначен Джон Макглинн, ранее работавший в клубе «Рэйт Роверс». Однако, вскоре покинул коллектив и он, оставив тренерское кресло Гари Локу. Под руководством этого специалиста «Хартс» в сезоне 2012/2013 вышел в финал Кубка Шотландской лиги, но проиграл клубу «Сент-Миррен» со счетом 2:3. У побежденных «дублем» отметился вернувшийся в команду из «Ипсвич Таун» Райан Стивенсон. По итогам сезона 2013/2014 «Хартс» покинул элиту шотландского футбола.