Клубным цветом стал стал ирландский зеленый, гербом – арфа (один из символов Ирландии), а девизом – «Erin Go Bragh»! («Ирландия навсегда»). Первым менеджером был избран отец Хэннан, а Уэлахан стал капитаном команды, основу которой стали члены Общества молодых католиков (Catholic Young Men’s Society). В связи с ирландским происхождением клуб какое-то время не принимали ни в эдинбургскую, ни в шотландскую футбольные ассоциации. Не играл «Хибс» и в турнирах под эгидой этих организаций. Однако вскоре запрет шотландским клубам играть с «Хибсом» был снят (первым нарушил это правило «Хартс», еще 25.12.1875 победивший соперника со счетом 1:0) и команда, принятая в члены Футбольной ассоциации Шотландии, начиная с сезона 1877/1878 стала выступать в розыгрыше Кубка Шотландии.

Первым соперником «Хибса» в этом турнире стал «Хартс». Матч, состоявшийся 22.09.1877, завершился со счетом 0:0, а в переигровке ирландцы победили со счетом 2:1. К сожалению, авторы голов этого матча неизвестны. В первом для себя розыгрыше Кубка Шотландии «Хибс» дошел до пятого раунда, где со счетом 1:3 уступил клубу «Зюйд Вестерн». В этом же сезоне «Хибс» вышел в финал Кубка Футбольной ассоциации Эдинбурга, где со счетом 2:3 проиграл «Хартсу».

На протяжении следующих девяти сезонов «Хибс» восемь раз становился обладателем Кубка Эдинбурга, лишь в финале сезона 1882/1883 проиграв команде Эдинбургского университета. Кроме того, три сезона подряд (1883/1884–1885/1886) «Хибс» пробивался в полуфинал Кубка Шотландии.

В сезоне 1886/1887 «Хибс» впервые вышел в финал Кубка Шотландии. На пути к решающему матчу были переиграны «Даремстаун Рейнджерс» (6:1), «Моссенд Свифтс ФК» (1:1, 3:0), «Хартс» (5:1), «Куин оф зе Саут Уондерерс ФК» (7:3), «Терд Ланарк РВ» (2:1) и «Вейл оф Ливен» (3:1). В финале, который состоялся 12.02.1887 на стадионе «Хэмпден Парк» в Глазго, «Хайберниан» со счетом 2:1 обыграл «Дамбартон», проигрывая к 58-й минуте 0:1. На 65-й минуте Смит сравнял счет, а еще через десять минут 17-летний Патрик Уильям («Вилли») Гроувз, до 1886 года игравший за команды «Эдинбург Тисл» и «Лит Харп», принес «Хибс» победу и первый большой трофей в истории клуба с восточного побережья.

В этом розыгрыше Гроувз в 8-и матчах 10 раз поражал ворота соперников. В марте 1888 года этот форвард дебютировал в сборной Шотландии в матче против Уэльса и тогда же забил первый гол за сборную. Через год, в матче со сборной Ирландии, отметился «хет-триком». В 1888 году Гроувз подписал контракт с «Селтиком» и через год вместе с новой командой сыграл в финале Кубка Шотландии. В 1892 году Вилли Гроувз выиграл Кубок Англии в составе «Вест Брома», а в следующем году его купила «Астон Вилла» за 100 фунтов стерлингов – на тот момент это был самый дорогой переход в мире. С «вилланами» Гроувз в 1894 году стал чемпионом Англии, а потом вернулся в «Хайберниан».

В финале за новых обладателей Кубка Шотландии играли: Джон Тобин, Джеймс Ланди, Уильям (Барни) Фаган, Джеймс Макги, Питер Макгинн, Джеймс Макларен (капитан), Патрик («Пэдди») Лафферти, Уильям Гроувз, Джеймс Мантгомери, Фил Кларк, Джордж Смит. Не смог выйти на поле в этом матче Джерри Рейнольдс, в 7-м предыдущих кубковых играх забивший 4 мяча.

В 1891 году «Хайберниан» в связи с тяжелым финансовым положением был расформирован, но уже спустя год возродился и вскоре переехал на знаменитый стадион «Истер Роуд». Первый матч на этой арене состоялся 04.02.1893. В 1893 году «Хибс» был принят в Футбольную ассоциацию Шотландии и в сезоне 1893/1894 начал выступать во втором дивизионе. В дебютном лиговом поединке «Хайберниан» 19.08.1893 встретился с «Партик Тисл» и одержал победу со счетом 2:1. Первые голы в лиге забили Пат Мюррей и Александр Хауи.

В своем дебютном сезоне «Хибс» стал победителем турнира (+18=3–2, мячи 83–29), но парадоксальным образом повышения в классе не добился – путём голосования в высший дивизион попал «Клайд». Спустя год «Хибс» снова оказывается сильнейшим во втором дивизионе и на этот раз получает заслуженную путёвку в высший шотландский дивизион (+14=2–2, мячи 92–28). Лучшим бомбардиром команды стал бывший форвард «Рейнджерс» Аллан Мартин, в 16-и лиговых встречах забивший 17 голов.

В основном составе команды тогда играли: Бернард («Пат») Бреслин из «Карфин Шемрок» (провел 261 матч и забил 11 голов, 1893–1906), Вилли Доннелли, Джон Кеннеди, Аллан Мартин, Томас Макфарлейн, Джозеф Мёрфи, Пат Мюррей (136/50, 1893–1900), Роберт Нилл, Вилли Смит (79/42, 1893–1897) и др.

В первом же для себя сезоне в высшем дивизионе «Хибс» совершает настоящую сенсацию, занимая с 24 очками третье место (+13=3–2, мячи 83–29). Четвёртое место занял «Хартс» – самый принципиальный соперник команды. Правда в том же году «Хартс» обыграл «Хайберниан» в финале Кубка Шотландии со счетом 3:1. В последующие пять сезонов команда ни разу не финишировала на месте, ниже четвертого, а в сезоне 1896/1897 впервые стала вице-чемпионом Шотландии.

В сезоне 1901/1902 «Хайберниан», переиграв «Клайд» (2:0), «Порт Глазго Атлетик» (5:1), «Куинз Парк» (7:1), «Рейнджерс», а в финале – «Селтик» (1:0), во второй раз стал обладателем Кубка Шотландии. Победный гол на 75-й минуте забил Энди Макгихен.

В составе победителей в финале играли: вратарь сборной Шотландии Генри («Гарри») Джордж Ренни из «Хартса», Арчибальд («Арчи») Колин Грэй, Роберт Глен, Бернард Бреслин, Джимми Харровер, Алекс Робертсон, Джонни Макколл, Энди Макгихен, Джон Дайверс, Патрик («Пэдди») Каллаган, Бобби Атертон. Возглавлял команду, которая стала акционерным обществом с ограниченной ответственностью, ирландский менеджер-секретарь Дэниел («Дэн») Макмайкл. Он работал в клубе на различных должностях (секретарь, директор, менеджер) с 1900 до февраля 1919 года, когда умер во время массовой эпидемии испанского гриппа («испанка»). Похоронен в безымянной могиле.

В следующем сезоне «Хибс», набрав 37 очков, оформил свое первое чемпионство (+16=5–1, мячи 48–18). Ставший вторым «Данди» отстал на 6 очков, а «Рейнджес» – на 8 очков. В составе новых чемпионов страны играли: Генри Ренни (22), Роберт У. Атертон (22/5), Пэдди Каллаган (21/9), Джеймс Бакен (часто – Бьюкен; 21/2), Александр Робертсон (20), Джордж Стюарт (19/9), Бернард Бреслин (19/1), Арчи Грэй (18/2), Уильям Маккартни (17/5), Дэвид Рид (16/14), Джеймс Хогг (15), Джеймс Харровер (11), Энди Макгихен (10), Роберт Глен (3), Томас Боне (3), Александр Логан (2), Джон Дайверс (2), Гамильтон Хэндлинг (1). Автор одного мяча не определен.

Начало XX века выдалось не самым лучшим в истории команды. «Хибс» в те годы не поднимался выше пятого места (1904/1905 и 1907/1908), обосновавшись в середине турнирной таблицы и нередко борясь за выживание. В годы Первой Мировой войны (в сезонах 1915/1916–1919/1920 «Хибс» занимал соответственно 19,17, 16 и дважды 18-е места) от вылета команду спасло только объединение двух дивизионов в один. Единственное достижение тех лет, выход в финал Кубка Шотландии в сезоне 1913/1914, в котором после ничьи (0:0) в переигровке со счетом 4:1 победил «Селтик».

В сезонах 1922/1923 и 1923/1924 «Хайберниан» под руководством Алекса Мейли два раза подряд выходил в финал Кубка Шотландии и дважды проиграл. В первом случае – «Селтику» (0:1), во втором – «Эйрдриониансу» (0:2). По итогам сезона 1929/1930 команда, проиграв 22 матча из 38-и и заняв в турнире 19-е место, была вынуждена покинуть первый дивизион. Для возвращения в элиту «Хибсу» понадобилось три сезона, но добиться каких-то успехов до начала Второй Мировой войны команде так и не удалось. В основном команда боролась за выживание.