После этого в игре «Килли» наметился некоторый спад и они, в основном, вели борьбу за выживание в первом дивизионе. Лишь в сезоне 1917/1918 команда смогла подняться на 3-е место. В сезоне 1919/1920 «Килмарнок» занял в чемпионате 8-е место, но зато, впервые в своей истории, выиграл Кубок Шотландии. На пути к решающему матчу «Килли» выиграли у клубов Alloa (2:0), «Куинз Парк» (4:1), Armadale (2:1) и «Мортон» (3:2).

В финальном матче, который состоялся 17.04.1920 на стадионе «Селтик Парк» в Глазго, «Килмарнок», который тренировал Хью Спенс, переиграл клуб «Альбион Роверс» со счетом 3:2. Голы у победителей забили Вилли Калли, Мэтт Шортт и Джек Смит (в 1922 году он перешел в «Болтон Уондерерс», с которым выиграл Кубок Англии 1923 и 1926 годов). В финальном матча за «Килмарнок играли: Блэр, Гамильтон, Гордон, Баган, Мэтт Шортт, Нив, Макнайт, Мэттью Смит, Джон («Джек») Рид Смит, Вилли Калли, Макфейл.

С 1920 по 1929 год «Килмарнок» выступал в белых футболках с голубыми поперечными полосами, белых трусах и темно-синих гетрах. Позже полоски на футболках стали вертикальными, а гетры – голубыми. Приерно в такой форме команда играет и сегодня. Лишь с 1977 по 1989 год «Килли» выступали в футболках с синими поперечными полосами, синих трусах и гетрах.

Следующий успех клуба датируется сезоном 1928/1929, когда «Килмарнок», занявший в чемпионате 10-е место, стал двукратным обладателем Кубка Шотландии. В решающем поединке 06.04.1929 «Килли» переиграл «Рейнджерс» со счетом 2:0 благодаря точным ударам Джока Эйткена и Джимми Уильямса.

В победном финале за «Килли» играли: Сэм Клеми, Том Робертсон, Джо Нибло, Алан Мортон, Макларен, Джон Макэван, Коннелл, Джек Смит, Гарри Каннингем, Джеймс («Джимми») Уильямсон, Джон («Джок») Эйткен.

В 1932 и 1938 годах «Килмарнок» снова играл в финале Кубка Шотландии, но оба раза проиграл в переигровке – сначала «Рейнджерсу» (1:1, 0:3), а затем и клубу «Ист Файф» из города Метил (1:1, 2:4). В чемпионате Шотландии лучшим результатом «Килмарнока» (после 1918 года и до начала Второй Мировой войны) было 7-е место в сезоне 1933/1934.

По итогам сезона 1946/1947 «Килмарнок» занял в чемпионате 15-е место и опустился во второй дивизион, где провел 7 сезонов. 25.10.1952 команда под руководством Малки Макдональда впервые играла в финале Кубка Шотландской лиги, где со счетом 0:2 уступила «Данди». В составе «Килли» в тот день играли: Джон Нивен, Ральф Коллинз, Джимми Худ, Джон Расселл, Боб Тайн, Джим Миддлмасс, Томми Хеноган, Вилли Харви, Джерри Мейс, Вилли Джек, Мэтт Мюррей.

Новое свидание клуба с элитой состоялось лишь в сезоне 1954/1955, а через десять лет коллектив из Эйршира добился самого большого успеха в своей истории. «Килмарнок» тогда тренировал бывший игрок «Рейнджерс» и сборной Шотландии Уильям Уодделл, принявший клуб в 1957 году. В сезоне 1964/1965 «Килмарнок» в первый, и пока единственный, раз в своей истории стал чемпионом Шотландии, одержав 22 победы, 6 матчей проиграв и столько же завершив ничейным результатом. Соотношение мячей 62–33.

Этот триумф, достигнутый благодаря победе со счётом 2:0 в гостях над «Хартсом» в последнем туре (о обоих клубов в итоге оказалось по 50 очков, но у «Килли» соотношение мячей было лучше: 1,88 против 1,84), стал кульминацией потрясающей стабильности клуба – в четырёх из пяти предыдущих сезонах команда занимала в чемпионате второе место.

В составе «Килмарнока» в чемпионском сезоне играли: Роберт Кэмпбелл Форсайт, Роберт («Бобби») Фергюсон (в 1967 году «Вест Хэм» отдаст за Фергюсона 65 тысяч фунтов, установив мировой рекорд стоимости голкипера), Энди Кинг, Мэттью («Мэтт») Макласки Уотсон, Эрик Макинтайр Мюррей, Джеки Макгрори, Френсис («Фрэнки») Уайтфилд Битти, Томми Маклин, Джеки Макиналли, Берти Блэк, Дэви Снеддон, Брайн Макилрой, Рональд («Ронни») Дуглас Гамильтон, Джим Макфадзин, Уильям Диксон, Патрик О’Коннор и др.

Кроме чемпионста в 1965 году, «Килмарнок» под руководством Уильяма Уоделла в 1957 и 1960 годах доходил до финала Кубка Шотландии, а в сезонах 1960/1961 и 1962/1963 – до финала Кубка Шотландской лиги, но все четыре кубковых финала «Килли» проиграли. Осенью 1965 года Уоддел оставил большой спорт, занявшись журналистикой.

По итогам сезона 1972/1973 «Килмарнок», заняв 17-е место, перешел во второй дивизион, где, с небольшими перерывами, выступал до 1993 года. Сезон 1989/1990 команда провела в третьем дивизионе. Начиная с сезона 1993/1994 «Килмарнок» вновь выступает среди сильнейших коллективов Шотландии. Лучший результат – 4-е места в сезонах 1997/1998, 1998/1999, 2000/2001 и 2002/2003.

В сезоне 1996/1997 команде под руководством ее бывшего нападающего Бобби Уильямса в третий раз покорился Кубок Шотландии. В финале, который состоялся 24.05.1997 на стадионе «Айброкс» в Глазго, «Килли» со счетом 1:0 победили «Фалкирк». Победный гол на 20-й минуте забил Пол Райт.

За победителей играли: Драгое Лекович (14 матчей за сборную Югославии), Ангус («Гус») Иан Макферсон, Дилан Керр, Рэй Мантгомери, Кевин Макгоун, Марк Рейлли, Дэвид Баган (Алли Митчелл), Алекс Бёрк, Гари Джеймс Хольт (10 матчей и 1 гол за сборную Шотландии), Джим Макинтайр (Томас Херон Браун), Пол Гамильтон Райт (Джон Генри).

В сезонах 2000/2001 и 2006/2007 «Килли» могли пополнить коллекцию своих трофеев, но оба раза проиграли в финале Кубка Шотландской лиги – сначала «Селтику» (0:3), а затем и «Хайберниану» (1:5). В первом случае командой руководил Бобби Уильямсон, во втором – Джим Джеффрис.

Кубок Шотландской лиги покорился «Килли» только с шестой попытки. В финале этого турнира скезона 2011/2012 встретились клубы «Селтик» и «Килмарнок», который возглавлял североирландский специалист Кенни Шилс. Матч состоялся 18.03.2012 на стадионе «Хэмпден Парк» в Глазго. Обладателями трофея стали «Килли», переигравшие своих оппонентов с минимальным счётом 1:0 благодаря голу вышедшего на замену бельгийского форварда Дитера ван Торнхута, который он забил головой за шесть минут до конца основного времени матча после точного навеса левого защитника Бена Гордона.

Цвета «Килмарнока» (команда в этот день играла во всем желтом с синей отделкой) защищали: Кэмерон («Кэмми») Белл, Джеймс Фаулер (капитан), Махамаду Сиссоко (защитник молодежной сборной Франции, его заменил чех Зденек Кроча), Майкл Джон Нельсон, Бенджамин («Бен») Лоуренс Гордон (полузащитник молодежной сборной Англии), Лиам Марк Келли, голландец Дании Бюйс (Ли Джонсон), Гари Харкинс (Дитер ван Торнхут), Гарри Хей (был капитаном команды в проигранных финалах 2001 и 2007 годов), Дин Эндрю Шилс, Пол Хеффернан.

В европейских турнирах «Килмарнок» участвовал девять раз, и лучшим достижением клуба остаётся выход в полуфинал Кубка ярмарок в сезоне 1966/1967. Тогда «Килли» обыграли «Антверпен» (1:0, 7:2), «Гент» (1:0, 2:1), «Локомотив» Лейпциг (0:1, 2:0), но уступили «Лидсу» (2:4, 0:0).

Латинский лозунг «Килмарнока» – Confidemus (Мы верим!). Историческим и наиболее принципиальным соперником «Килмарнока» является ближайший географический сосед «Эйр Юнайтед». Встречи между этими командами известны, как дерби Эйршира. Первый матч между «Килмарноком» и «Эйр Юнайтед» был проведён в сезоне 1909/1910 и завершился вничью 4:4, задав тон дальнейшему острейшему и яростному соперничеству.