Один из основателей клуба – 20-летний защитник Том Парди, стал его первым капитаном. Изначально свои домашние матчи «Хартс» проводил на стадионе «Мидоус» в районе Паудерхолл на севере Эдинбурга, перебравшись на арену «Тайнкасл» в 1886 году, где и выступает поныне.

Свой первый товарищеский матч «Хартс» провел 28.08.1875, проиграв со счетом 0:2 местному клубу волонтеров «Third Edinburgh Rifle Volunteers» (будущий «Терд Ланарк»). В своем первом в истории матче цвета «Хартса» защищали: Джейк Рид, Том Парди, Питер Донахью, А. Чалмерс, Хью Уайли, Уильям Харли, Джон Макбит, Питер Макбит, Джон Донахью, Джордж Митчелл, У. Джонстон. А свои первые голы футболисты «Сердец» забили только 06.11.1875, победив в товарищеском матче клуб «Хановер». К сожалению, авторы голов неизвестны.

В августе того же года клуб вступил в Шотландскую Футбольную ассоциацию, получив право выступать в Кубке Шотландии. Первый матч в этом турнире «Сердца» сыграли 16.10.1875 против уже знакомых им волонтеров и завершили его вничью (0:0). С ноября 1877 года «Хартс» стал играть в розыгрыше Кубка Футбольной ассоциации Эдинбурга и сразу же стал победителем этого турнира, переиграв 20.02.1878 в финале «Хайберниан» со счетом 3:2. У победителей «дубль» оформил Джон Александер, еще один мяч провел Джон Митчелл.

Первый трофей в истории «Хартс» завоевали: Джейк Рид, Том Парди, Джордж Барбур, Джеймс Уитсон, Джон Суини, Эндрю Лис, Дж. Бёрнс, Хью Уайли, Джон Александер, Джордж Митчелл, Боб Уинтон.

До 1876 года команда играла в белых рубашках с бордовым сердцем на левой половине груди и белых брюках с бордовыми лампасами и ремнем. В сезоне 1876/1877 «Хартс» выступал в белых фуфайках с синими и красными горизонтальными полосами, белых шортах с синей окантовкой и гетрах, представлявших собой сочетание горизонтальных полосок красного, синего и белого цветов. С 1878 года футболки стали бордовыми, шорты – белыми, а гетры – синими (в 1889 году они сменили цвет на бордовый).

В сезоне 1886/1887 команда выступала в розыгрыше Кубка Англии, но дальше первого раунда пройти не смогла, крупно проиграв 30.10.1886 клубу «Дарвен» со счетом 1:7 (единственный гол англичанам забил Вилли Макей), а 16.08.1890 провела свой первый матч в новообразованной Шотландской Футбольной Лиге, уступив со счётом 2:5 в Глазго «Рейнджерс». Первые лиговые голы клуба забили Исаак Беджби и Вилли Тейлор.

Неудачными оказались и два следующих выездных матча – поражения от «Селтика» (0:5) и «Дамбартона» (1:3). Счастливым для «Сердец» стал первый домашний поединок 13 сентября против клуба «Коулэйрз» – крупная победа со счетом 4:0. Свой дебютный сезон команда под руководством Джеймса Чепмэна завершила на 6-м месте, набрав 14 очков (+6=2–10, мячи 31–37), а кроме того, переиграв клубы «Рэйт Роверс» (7:2), «Митлен Парк» (3:0), «Эйр ФК» (4:3), «Гринок Мортон» (5:1), «Ист Стерлингшир» (3:1) и «Терд Ланарк» (4:1), дошла до финала Кубка Шотландии.

07.02.1891 в Глазго «Хартс», победив счетом 1:0 «Дамбартон» (отличился Дэвид Кеннеди Расселл), выиграл свой первый серьёзный трофей. За победителей в финале играли: Джон Фейрбейрн (с учетом товарищеских встреч провел 221 матч, 1890–1898), Джимми Адамс (271/4, 1885–1897), Джордж Гудфеллоу, Исаак Беджби (326/10, 1888–1900), Джон Макферсон, Джон Хилл (117/9, 1887–1893), Вилли Тейлор (267/139, 1888–1900), Уильям Мэсон, Дэвид Расселл (160/64, 1890–1896), Джордж Скотт (182/76, 1888–1897), Дэвид («Дэви») Бэйрд (314/150, 1888–1903).

В сезоне 1891/1892 «Хартс» поднялся на третье место, в сезоне 1893/1894 стал вице-чемпионом страны, на три очка отстав от «Селтика», а еще через год, надежно сыграв в обороне, завоевал свой первый чемпионский титул (+15=1–2, мячи 50–18). Занявший второе место «Селтик» отстал на пять очков, а «Рейнджерс» – на девять.

В составе новых чемпионов Шотландии, которых тренировал Джеймс Чепмэн, играли: Роберт Макларен (18/8), Вилли Майкл (17/9), Бернард («Берни») Джозеф Бэттлс-старший (16), Джордж Скотт (16/6), Джеймс Мирк (16), Джордж Хогг (15, капитан), Джонни Уокер (15/8), Том Чамберс (15/8), Уильям Кокс (15), Дэвид Расселл (14/3), Алекс Холл (13/1), Исаак Беджби (8), Дэви Бэйрд (6/2), Том Уилки (3), Джок Фейрбейрн (3), Джордж Макдональд (2), Г. Блэк (1), Роберт Крейги Грэй (1), Вилли Максвелл (1/1), Уильям Николл (1), Уильям Филлипс (1/1), Ричардсон (1), Вилли Тейлор (1/1).

В следующем сезоне «Хартс» в чемпионате занял только 4-е место, но при этом во второй раз завоевал Кубок Шотландии, победив в финале своего самого непримеримого соперника – «Хайберниан», со счетом 3:1. Голы у победителей забили Дэви Бэйрд, Алекс Кинг и Вилли Майкл (149/93, 1892–1900), кроме которых в финале играли: Джок Фейрбейрн, Роберт Маккартни, Джеймс Мирк, Исаак Беджби, Дэвид Кеннеди Расселл, Джордж Хогг (306/20, 1892–1904), Роберт Макларен (156/58, 1892–1900) и Джонни Уокер (150/63, 1892–1898).

Свой второй чемпионский титул «Хартс» завоевал в сезоне 1896/1897, на два очка опередив земляков их «Хайберниана». На этот раз статистика игроков-чемпионов была такова: Джок Фейрбейрн (18), Джонни Уокер (18/7), Роберт Маккартни (17/3), Джордж Хогг (16), Роберт Макларен (16), Вилли Тейлор (16/10), Дэви Бэйрд (15/2), Исаак Беджби (13), Джеймс Мирк (12/1), Джеймс Шарп (10/5), Гарри Маршалл (10), Том Робертсон (8/9), Алекс Гиллис (6/2), Джимми Адамс (4/1), Джордж Т. Ливингстон (3/2), Роберт Крейги Грэй (3/1), Бобби Уокер (3/2), Уильям Уайт (3), Альберт Бьюик (2), Дэвид Александер (1), Генри Аллан (1), Томас Кейр (1), Генри Патерсон (1), Джордж Скотт (1).

На рубеже столетий клуб ещё дважды выигрывал Кубок Шотландии. В сезоне 1900/1901 в финале со счетом 4:3 был повержен «Селтик» благодаря «дублю» Марка Диксона Белла и голам нападающего сборной Шотландии Роберта («Бобби») Стейга Уокера (453/181, 1896–1913) и Чарльза Беллани Томсона (253/67, 1897–1908), а в сезоне 1905/1906 (в этом году команда стала вице-чемпионом страны) не выдержал «Терд Ланарк» (1:0, отличился дебютант из «Коуденбит ФК» Джордж Уилсон). В финале Кубка Шотландии 1906/1907 «Сердца» уступили «Селтику» (0:3).

После окончания Первой Мировой войны клубу, потерявшему на полях сражений семь ведущих игроков, было суждено в основном бороться за выживание. Лучший результат до начала Второй Мировой войны – 2-е место в сезоне 1937/1938 («Селтик» опередил вице-чемпионов всего на 3 очка), а также 3-е места в сезонах 1920/1921, 1925/1926, 1932/1933 и 1934/1935.

Подъем «Хартс» произошел только в 50-х годах, когда клуб стал вице-чемпионом страны сезона 1953/1954 и впервые выиграл Кубок Шотландской лиги, обыграв в финале, который состоялся 23.10.1954 на стадионе «Хэмпден Парк» в Глазго, клуб со счётом 4:2. «Хет-триком» в этом матче отметился центральный нападающий «сердец» Вилли Болд, а еще один мяч провел Джимми Уордхоф.

За обладателей Кубка Шотландской лиги в финале играли: Вилли Дафф, Бобби Паркер (375/32, 1947–1958), Том Маккензи (407/9, 1941–1959, Дэйв Крейг Макей (205/33, 1953–1959; воспитанник клуба позже с успехом защищал цвета «Тоттенхэм Хотспур» и «Дерби»), Фрэдди Глидден (259/3, 1948–1959), Джон Камминг (599/58, 1950–1967), Джим Сунесс, Альфи Конн-старший (386/212, 1944–1958), Уильям («Вилли») Расселл Логан Гэвин Чалмерс Болд (494/349, 1948–1962), Джимми Уордхоф (498/360, 1946–1960), Джонни Уркхарт (256/72, 1945–1956). Сильнейшей линией в той команде было нападение, куда входили легендарные футболисты Альфи Конн, Вилли Болд и Джимми Уордхоф, вошедшие в клубную историю под именем «Ужасная тройка».