По мере того как германские части приближались к территории Эстонии, подпольные националистические формирования активизировали вооруженные действия против советских войск. Как отмечали Р. Мисиунас и Р. Таагепера, «некоторые из них насчитывали несколько сот человек и были организованы в довольно дисциплинированные части бывшими армейскими офицерами. В значительной части Южной Эстонии советская администрация была заменена эстонской, за несколько дней и даже недель до прихода основных германских сил. Тарту оказался под полным или частичным эстонским контролем с 10 по 28 июля».

В Северной Эстонии вооруженные отряды националистов, по словам Мисиунаса и Таагепера, «насчитывали 5000 активных бойцов и 1500 на одной вооруженной лесной базе в Каутла… Потери партизан насчитывали 541 убитых и пропавших без вести. Сравнимые потери понесли и советские войска за два месяца боев».

Помимо воинских частей, в советском тылу действовали и заброшенные туда группы из агентов гестапо и СД. Перед ними ставилась задача выявить коммунистов, комсомольцев, руководителей советских органов и общественных активистов. Заранее составлялись списки жертв.

Одним из таких формирований стала группа «Эрна» из 14 шпионов и 70 бывших военнослужащих эстонской армии. 7 июля группа была переброшена самолетами из Финляндии в Харьюский уезд. Как отмечал Леонид Барков, «шпионы и бандиты из группы «Эрна» жестоко расправлялись с местным партийно-советским активом и военнослужащими Красной Армии. Участники этого формирования зачастую, как знак своей особой жестокости, вырезали на теле жертвы букву «Е» (т. е. «Erna»). Теракты и диверсии этих формирований из местных националистов являлись составной частью германской агрессии против СССР.

Планируя военные действия в Прибалтике, германское военное командование собиралось осуществить быстрый разгром советских армий. Военный историк генерал К. Типпельскирх писал: «Группа армий «Север» стремилась прежде всего продвинуться вперед подвижными соединениями сильного правого крыла, чтобы как можно скорее достигнуть района Опочки, воспрепятствовать отходу русских войск из Прибалтики и создать предпосылку для последующего быстрого наступления на Ленинград».

Несмотря на вероломство нападения Германии и удары в спину, которые наносила тайная агентура Германии в Прибалтике по советским войскам, с первых же дней войны бойцы Красной Армии при поддержке местного населения давали отпор агрессорам и их сообщникам. С 23 по 28 июня в полном окружении героически сражался гарнизон военно-морской базы Лиепая (Либава). Бывший личный переводчик А. Гитлера, а затем немецкий историк Пауль Карелл признавал: «Оборона была организована блестяще. Солдаты хорошо вооружены и фанатично храбры… Они показали наилучшие элементы военного искусства… Эта победа была горьким уроком: в Либаве впервые выяснилось, на что способен красноармеец при обороне укрепленного пункта, когда им руководят решительно и хладнокровно».

Несмотря на то что в точном соответствии с планами немецко-фашистские войска оказались в начале июля южнее Опочки, Типпельскирх признавал: «Уничтожение крупных сил противника, как это намечалось, до сих пор не было осуществлено… Командование и войска оказались на высоте требований, которые предъявлял к ним необычный, значительно более трудный, чем все предыдущие, театр военных действий. Убедительным было упорство противника; поражало количество танков, участвовавших в его контратаках. Это был противник со стальной волей, который безжалостно, но и не без знания оперативного искусства бросал свои войска в бой. Для серьезных опасений не было никаких оснований, однако уже было ясно одно: здесь не могло быть и речи о том, чтобы быстрыми ударами «разрушить карточный домик». Эта кампания не будет проходить так же планомерно, как прежде».

После сравнительно быстрого овладения Литвой, а затем и Латвией немецкие войска были остановлены на рубеже Пярну — Тарту — Чудское озеро. С первых же дней войны патриоты Советской Прибалтики вместе со всей Красной Армией давали отпор гитлеровским агрессорам и их «пятой колонне». С 22 июня вступили в сражение с врагами бойцы 29-го (литовского) территориального стрелкового корпуса. После отступления из Литвы бойцы корпуса продолжали сражаться за пределами своей родной республики. Лишь после двух месяцев упорных боев, в течение которых корпус понес значительные потери, он был отведен на переформирование. В декабре 1941 года оставшиеся от корпуса 3 тысячи бойцов вошли в состав вновь образованной 16-й литовской дивизии.

С 30 июня в бои против наступавших немецко-фашистских войск вступили бойцы латышского территориального корпуса, созданного в августе 1940 года. Несколько тысяч граждан Латвии вступили в ряды добровольческих и рабочих полков. Созданный в эти дни латышский добровольческий истребительный полк 18 июля был преобразован в 1-й латышский стрелковый полк. Бойцы этого полка сражались на территории Эстонской ССР. Затем был создан и 2-й латышский стрелковый полк.

Упорно защищали Советскую Родину эстонские красноармейцы. При сражении за станцию Дно 17 июля исключительный героизм проявило подразделение связистов, обслуживавших штаб 22-го стрелкового корпуса, оборонявшего подступы к станции. В «Истории Великой Отечественной войны Советского Союза» (в дальнейшем — ИВОВ) сказано: «Под командованием заместителя политрука радиороты 415-го батальона связи А.К. Мери горсточка воинов в течение нескольких часов отражала атаки противника. Арнольд Мери был несколько раз ранен, но продолжал руководить боем. Враг потерял десятки человек убитыми, однако штаб захватить не смог. За проявленный героизм А.К. Мери было присвоено звание Героя Советского Союза».

Тем временем гитлеровское командование направило на рубеж обороны в Эстонии три пехотные дивизии. Лишь после упорных боев им удалось прорвать фронт и 7 августа выйти на побережье Финского залива в районе Кунда. Советские войска, сражавшиеся в Эстонии, оказались рассеченными на две части: 11-й стрелковый корпус начал с боями отходить к Нарве, а 10-й стрелковый корпус — к Таллину.

Вокруг Таллина создавались три оборонительных рубежа в радиусе 40 километров. В ИВОВ сказано: «Правительство Эстонской ССР обязало учреждения и предприятия республики организовать производство всего необходимого для укрепления обороны Таллина. В распоряжение инженерного отдела флота были переданы два республиканских строительных треста. Таллинский городской комитет Коммунистической партии Эстонии и городской Совет депутатов трудящихся привлекли к оборонительным работам до 25 тысяч жителей и весь автотранспорт эстонской столицы. Рабочие таллинских заводов сформировали рабочий полк. Рабочие судоремонтных мастерских и арсенала, установив на железнодорожных платформах морские пушки, создали артиллерийскую батарею. Работники морского пароходства за полмесяца построили два бронепоезда для действий на узкоколейной железной дороге. Предприятия города изготовляли минометы и мины к ним, противотанковые деревянные мины, бутылки с горючей смесью и другое оружие… В городе распространялись обращения к рабочим, служащим и трудовой интеллигенции с призывами мобилизовать все силы на отпор врагу».

Столкнувшись с упорным сопротивлением, противник лишь 19 августа развернул наступление на Таллин. Несмотря на самоотверженность защитников столицы Эстонии, противник прорвался в город. 26 августа был отдан приказ эвакуировать флот и гарнизон Таллина. В боях за столицу Советской Эстонии 28 августа погиб руководитель эстонских коммунистов И. Лауристин.