По итогам сезона 1924/1925, «Ковентри Сити», заняв последнее 22-е место, вылетел в третий дивизион, где провел 10 лет. В сезоне 1935/1936 команда стала победителем этого турнира и получила право вернуться во второй дивизион, в котором продержалась до сезона 1952/1953, после чего вновь опустилась в третий дивизион. Мало того, сезон 1958/1959 пришлось провести в четвертом дивизионе.

Во второй дивизион «Ковентри» вернулся по итогам сезона 1963/1964. Завершив чемпионат 1966/1967 на 1-ом месте, «небесно-голубые», которых тренировал бывший форвард «Фулхэма» и один из лидеров профсоюза футболистов, плодотворно боровшийся за отмену «потолка» заработной платы, Джеймс («Джимми») Уильям Томас Хилл, принявший команду в ноябре 1961 года, впервые получили право играть в элите. Позже, эпоху работы выделявшегося фирменным гигантским подбородком и флибустьерской бородой Хилла в «Ковентри Сити», насыщенную большими переменами в жизни клуба, назовут «Голубой революцией». Именно он в 1962 году изменил расцветку домашней формы на светло-голубой цвет, отказавшись от белого и синего, благодаря чему команда и получила свое прозвище – «The Sky Blues». Этот цвет, с различными дизайнерскими инновациями сохраняется и сегодня.

Кроме того, Хилл стал автором слов клубной песни под названием «Sky Blue anthem» (в дословном русском переводе – Небесно-голубой гимн; его слова печатались на программках к домашним матчам, чтобы болельщики могли петь вместе с футболистами перед началом игры), сумел арендовать для фанатов команды специальные небесно-голубые электрички для выездов, наладил выпуск первых в Англии полноценных предматчевых программок, вместе с председателем клуба Роббинсом был инициатором реконструкции стадиона и строительства двух новых трибун, организатором всевозможных развлекательных программ для болельщиков перед началом матча.

А прежде всего, он коренным образом изменил игру команды, которая за шесть лет работы в ней Хилла поднялась из третьего дивизиона в первый, собирая на отдельных матчах более 50 тысяч болельщиков.

В дебютном матче среди сильнейших коллективов Англии «Ковентри Сити» провел 19.08.1967 и на выезде проиграл «Барнли» со счетом 1:2. Единственный гол в свои ворота хозяева поля забили сами. «Ковентр Сити» провел свой стартовый матч в первом дивизионе таким составом: Билл Глейзер, Мик Кернс, немец Дитмар Брук, Дэвид Клементс, Джордж Кёртис, Эрни Мэшин, Брайан Льюис, Рон Фармер, Джонни Кей, Джон Тюдор, Ронни Рис.

Свой первый «элитный» гол «небесно-голубые» забили во втором туре, 22 августа. В матче против «Ноттингем Форест» (3:3) первым отличился Эрни Мэшин, а Бобби Гульд оформил «дубль». Лишь в шестом туре, 05.09.1967, «Ковентри» одерживает свою первую победу в элите, обыграв «Саутгемптон» со счетом 2:1.

30.09.1967 Джимми Хилл, поняв, что для работы в элитном дивизионе ему не хватает тренерского опыта, добровольно ушел в отставку (он стал работать на британском телевидении комментатором и аналитиком, придумывал и вел всевозможные футбольные шоу, а в апреле 1975 года, не оставляя телевизионной работы, вернулся в «Ковентри» сначала на пост управляющего директора, а позже – председателя правления), а его место занял бывший ирландский крикетчик и футболист Ноэл Юкариа Корнелиус Кантуэлл, долгие годы успешно выступавший за «Вест Хэм Юнайтед», «Манчестер Юнайтед» и сборную Ирландии. В 1967 году, став с «МЮ» чемпионом Англии, Кантуэлл завершил игровую карьеру и вскоре принял «Ковентри». В итоге, в своем дебютном сезоне команда заняла 20-е место (+9=15–18, мячи 51–71) и сохранила место в первом дивизионе.

Такой же результат был показан и в следующем сезоне, а в 1970 году подопечные Кантуэлла неожиданно поднялись на рекордное для себя 6-е место (+19=11–12, мячи 58–48), благодаря чему «Ковентри Сити» в первый, и еденственный на сегодня, раз получил право играть в еврокубках.

В основном составе команды тогда выступали: Билл Глейзер, Кристофер («Крис») Джон Кэттлин, Дэвид («Дэйв») Клементс (провел 48 матчей за сборную Северной Ирландии), Джеффри («Джефф») Пол Блокли, Мик Куп, Брайан Хилл, Дитмар Брук, Вилли Карр, Рой Барри, Джордж Кёртис, Иан Стюарт Гибсон, Эрни Мэшин, Деннис Мортимер, Нил Мартин, Джон О’Рурк, Роджер Патрик («Эрни») Хант, Брайан Джойси, Эрни Ханниган, Морис Эдгар Сеттерс (51/3, 1967–1970; бывший игрок «МЮ», в 1986–1995 ассистент главного тренера сборной Ирландии).

В стартовых матчах Кубка ярмарок англичане дважды переиграл болгарский «Ботев» из Пловдива (4:1, 2:0; в первом матче хет-трик оформил Джон О’Рурк), но во втором раунде их поджидала мюнхенская «Бавария». Несмотря на домашнюю победу со счетом 2:1 (отличились Мартин и О’Рурк), на выезде «небесно-голубые» были разгромлены со счетом 6:1 (единственный мяч на счету Ханта) и выбыли из турнира.

12.03.1972 Ноэл Кантуэлл ушёл из «Ковентри Сити» и переехал в США, где стал главным тренером клуба Североамериканской футбольной лиги «Нью Ингланд Ти Мен». После этого «небесно-голубые» прочно обосновались в середине турнирной таблицы, периодически ведя борьбу за выживание (десять раз «Ковентри» спасался от вылета в последний день сезона).

Определенного успеха команда добилась всезоне 1977/1978, заняв в чемпионате 7-е место. А пришедший годом ранее из шотландского «Дамбартона» Иан Эндрю Уоллес, забивший за сезон во всех турнирах 23 гола в 46 встречах, стал лучшим бомбардиром команды. Этот титул он удерживал и в последующие два сезона. Особенно удачно действовал Уоллес в паре с воспитанником клуба, одним из его ключевых игроков Майклом Фергюсоном, который был лучшим бомбардиром клуба в 1977 году (13 голов).

В сезоне 1977/1978 эта пара только в чемпионате страны забила 37 голов, из которых 17 (в 30 матчах) на счету Фергюсона, в том числе – и три хет-трика, а 21 (в 41 матче) – Иана Уоллеса. Кроме этих футболистов в команде тогда играли такие мастеровитые футболисты, как нападающий Бобби Макдональд из «Астон Виллы», полузащитники Томми Хатчисон («Блэкпул»), Терри Йорат («Лидс Юнайтед») и Барри Пауэлл («Вулверхэмптон», «Портленд Тимберс»), голкипер сборной Шотландии Джимми Блайт («Престон», участник ЧМ-1978), воспитанные в клубе защитники Мик Куп, Брайан Робертс и Грэм Оаки, а также их коллега по обороне, поигравший за «МЮ» и «Сандерленд» Джим Холтон, участник ЧМ-1974 в составе сборной Шотландии.

Позже лишь раз «Ковентри Сити» смог подняться на седьмое место – в сезоне 1988/1989, когда в атаке команды солировал Дэвид Роберт Спиди, пришедший из «Челси».

В сезоне 1980/1981 команда, переиграв на турнирной дороге клубы «Манчестер Юнайтед» (1:0, 1:0), «Брайтон энд Хоув Альбион» (2:1), «Кембридж Юнайтед» (1:1, 1:0) и «Уотфорд» (2:2, 5:0), впервые дошла до полуфинала Кубка Футбольной лиги, где уступила «Вест Хэму» по итогам двух матчей (3:2, 0:2).

В том составе «небесно-голубых» лучшими были голкипер Лес Сили (в 1976–1983 провел за клуб 158 лиговых матчей, а потом защищал ворота «Лутон Таун» и «Манчестер Юнайтед», с которым стал победителем Кубка обладателей кубков 1991 года), нападающий Марк Хейтли (воспитанник клуба, за который в 1979–1983 провел 112 официальных матчей и забил 34 гола, а позже успешно играл за «Милан», «Монако», «Рейнджерс» и сборную Англии; сын Тони Хейтли, нападающего клубов «Ноттс Каунти», «Астон Вилла», «Челси» и «Ливерпуль», а в сезоне 1968/1969 он играл за «Ковентри»), нападающий Стивен Кеннет Хант (в 1977–1978 играл за «Космос» Нью-Йорк, когда там выступали Пеле, Джорджо Киналья, Карлус Алберту Торрес и Франц Беккенбауэр), защитник сборной Шотландии Гари Томпсон Гиллеспи (летом 1983 года ушел в «Ливерпуль», с которым стал обладателем Кубка европейских чемпионов), защитник Пол Иан Дайсон, полузащитник сборной Ирландии Джерард («Джерри») Энтони Дэли, прежде игравший за «Манчестер Юнайтед» и «Дерби», полузащитник Энди Блэр (в следующем сезоне выиграл Кубок чемпионов вместе с «Астон Виллой») и нападающий молодежной сборной Англии Гарри Линдсей Томпсон.