Президент Джонсон пытался препятствовать радикальной реконструкции, увольняя чиновников и военных уполномоченных, с излишним, по его мнению, рвением следовавших этой программе. Он сместил нескольких генералов, возглавлявших южные штаты, а 12 августа 1867 г. заменил министра обороны Эдвина Стэнтона, находившегося на этом посту со времен Линкольна, генералом Грантом. В соответствии с Законом о занятии высших должностей Джонсон объяснил сенату причины отстранения Стэнтона, но в январе 1868 г. они были отвергнуты верхней палатой 36 голосами против 6. Радикалы убедили Гранта отказаться от поста министра обороны, и Стэнтон был восстановлен в должности.

21 февраля 1868 г. несломленный Джонсон повторно уволил Стэнтона, при этом обвинив Гранта в предательстве, и назначил министром обороны генерал-адъютанта Лоренсо Томаса. В тот же день конгрессмен Джон Ковоуд из Пенсильвании предложил палате представителей «объявить импичмент президенту Эндрю Джонсону за серьезные преступления и правонарушения, совершенные им в занимаемой должности». Предложение было передано в Объединенный комитет по реконструкции, который, в свою очередь, поставил его на голосование. После напряженных дебатов конгресс 24 февраля 1868 г. поддержал предложение 126 голосами против 47. Был сформирован комитет для подготовки импичмента, который 2 марта представил девять статей обвинения. В основном они касались предполагаемых нарушений закона об ограничении президентских полномочий, но включали и обвинения в организации заговора путем запугивания и угроз с целью не допустить Стэнтона к исполнению обязанностей. На следующий день палата представителей добавила еще две статьи: одна содержала обвинение в «агрессивных высказываниях», вторая была сводной. Семь членов конгресса представляли обвинение в сенате, в том числе Бен «Зверь» Батлер, Тадеуш Стивенс, Джордж Баутвелл и Джон А. Бингэм.

30 марта в сенате председатель Верховного суда Сэлмон Чейз открыл слушания по представленным обвинениям. Впрочем, обвинители лишь увещевали сенаторов, полагая, что приговор предрешен, и не выдвинули ни единого весомого доказательства «серьезных преступлений и правонарушений».

16 мая сенаторы первой поставили на голосование сводную статью и поддержали обвинение 35 голосами против 19. Но, чтобы начать процедуру импичмента, необходимо большинство в две трети голосов, и одного голоса не хватило. Среди 19 сенаторов, проголосовавших против импичмента, было 7 республиканцев и 12 демократов. Сенатор Эдмунд Д. Росс из Канзаса, радикальный республиканец, проявил мужество и принципиальность, проголосовав за невиновность. Когда 26 мая были отклонены еще несколько статей обвинения против Джонсона, сенат прекратил разбирательство по импичменту. Узнав об этом, Стивенс воскликнул: «Страна катится ко всем чертям!» Вскоре он умер. Сенатор от Айовы Джеймс Граймс заявил, что от сената требовали принять политическое решение. «Я не согласен разрушать гармонию конституции, чтобы избавиться от неугодного президента».

Эти события ознаменовали конец почти не ограниченной президентской власти, которой пользовался Авраам Линкольн. Джонсон пытался контролировать процесс реконструкции, но ему это не удалось. Оттеснив его, конгресс взял на себя руководство восстановлением Союза. И это правильно, настаивал сенатор от Огайо Джон Шерман: исполнительная власть «обязана подчиняться законодательной», как это и было задумано основателями.

Вскоре на съезде Республиканской партии в Чикаго уже в первом туре голосования кандидатом в президенты на выборах 1868 г. был выдвинут Улисс С. Грант, а кандидатом в вице-президенты – радикальный спикер палаты представителей Скайлер Колфакс. Демократы выдвинули Горацио Сеймура, бывшего губернатора Нью-Йорка, и Фрэнсиса П. Блэра из Миссури, но коллегия выборщиков большинством голосов (214 против 80) проголосовала за республиканский список.

26 февраля 1869 г. радикалы вновь проявили силу и решимость, приняв Пятнадцатую поправку к конституции, запрещавшую штатам лишать граждан права голоса из-за расовой принадлежности, цвета кожи или того, что они прежде были рабами. Неприсоединившиеся штаты были обязаны ратифицировать поправку до того, как будет рассматриваться вопрос об их воссоединении с Союзом. 26 января 1870 г. в Союз вновь вошла Вирджиния, 23 февраля – Миссисипи, 30 марта – Техас.

Эти южные штаты первыми избрали в конгресс значительное число чернокожих. Хирам Р. Ревельс, республиканец из Миссисипи, стал сенатором и вступил в должность 25 февраля 1870 г. Священник методистской епископальной церкви, во время Гражданской войны он служил капелланом полка чернокожих. Первым негром, избранным в палату представителей, стал Джозеф Рейни, республиканец из Южной Каролины, принявший присягу 12 декабря 1870 г. Цирюльник по профессии, он был призван конфедератами и служил на судне, которое пыталось прорвать блокаду. Рейни стал первым чернокожим, руководившим палатой представителей, когда спикер Джеймс Г. Блейн из штата Мэн в мае 1874 г. передал ему полномочия.

Другими чернокожими членами палаты представителей в те годы были республиканцы Бенджамин С. Тернер из Алабамы, Роберт К. Де Лардж и Роберт Б. Эллиот из Южной Каролины, Джозайа Т. Уоллс из Флориды и Джефферсон Ф. Лонг из Джорджии. Всего в период Реконструкции в конгресс вошли 16 негров, но каждый из них оставался там лишь один или два срока.

В период Реконструкции обязанность обеспечивать исполнение законов, принятых конгрессом, возлагалась на военные суды, но в деле Миллигана Верховный суд постановил, что решения военных судов должны считаться неконституционными, если действуют гражданские суды. Опасаясь, что Верховный суд отменит законы о реконструкции, в марте 1868 г. конгресс принял закон, выводивший этот вопрос из-под юрисдикции суда. Тем не менее Верховный Суд подтвердил право конгресса на проведение реконструкции, а в деле «Штат Техас против Уайта» признал обоснованность доводов Эндрю Джексона и Авраама Линкольна, считавших Союз нерушимым. Что еще важнее, в течение последующих нескольких лет постепенно было признано право Верховного суда толковать конституцию, хотя в самом документе ничто на это не указывает.

Пятнадцатая поправка запрещала штатам по расовым мотивам лишать граждан права голоса, но не мешала им вводить образовательные и имущественные цензы, а также устанавливать ценз грамотности, что и произошло после окончания военной реконструкции. Таким образом белые успешно лишили негров права голоса и в конце концов восстановили свое правление на Юге, утверждая, что «избавили» свои штаты от «черной Реконструкции», как они ее называли.

Впрочем, одним из самых эффективных способов помешать черным принимать участие в голосовании стало запугивание. В 1866 г. в Пуласки, штат Теннесси, был создан ку-клукс-клан, который возглавил первый «великий маг», бывший генерал конфедератов Натан Бедфорд Форрест. Организация ставила себе целью восстановить правление белых путем насилия, наводя ужас на черных, осмелившихся голосовать. Избиения и линчевания случались едва ли не каждый день, особенно во время выборов. По некоторым оценкам, в 1868–1871 гг. было повешено приблизительно 400 негров.

Такой взрыв насилия лишь убедил северян, что принуждение к исполнению федерального закона при помощи войск на Юге необходимо и оправданно. В связи с этим в 1870–1871 гг. конгресс принял три закона о противодействии ку-клукс-клану, два из которых признавали незаконным применение силы и угроз с целью препятствовать гражданам в осуществлении своих избирательных прав и обеспечивали федеральный надзор за регистрацией избирателей. Третий закон, который называли Законом о ку-клукс-клане, давал президенту право использовать военных для защиты черных избирателей от угроз и насилия и в случае необходимости приостанавливать действия закона о неприкосновенности личности. Около двадцати лет, пока республиканцы оставались у власти, «принудительные законы», как их называли демократы, не отменялись. Постепенно администрация Гранта отстраняла военных и военные суды от проводимой конгрессом реконструкции, вследствие чего белые южане постепенно избавлялись от правления республиканцев в своих штатах. В конгресс все чаще выбирали бывших конфедератов, в том числе бывшего вице-президента Конфедерации Александра Стивенса, а также 6 чиновников кабинета, 58 членов конгресса Конфедерации и 9 высокопоставленных армейских офицеров. Шаг за шагом прежний правящий класс возвращал себе власть над Югом.