Генрих V, расчетливый и без угрызений совести, если дело касалось интересов империи, понял, что ресурсы, которыми располагал папский престол, были слишком велики, чтобы с ними можно было бороться. Переговоры с таким противником неминуемы, но было необходимо достичь компромисса с наилучшими условиями. Чтобы как-то снизить цену, которую следовало заплатить, он использовал поочередно то силу, то хитрость.

Он не мог не знать о том, что во Франции, а равно и в Англии, возник вопрос о проблеме инвеституры, что отношения между королями этих двух стран и папами ухудшились, но что по обе стороны Ла-Манша был найден общий язык, в 1104 г. во Франции, а тремя годами позже и в Англии. Максима епископа Ива Шартрского помогла участникам переговоров определить условия соглашения, так как именно этому теологу дипломаты были обязаны разграничением между церковной и светской властью. Монархи, отказываясь от духовной инвеституры, помогли установить modus vivendi, который не наносил значительного ущерба ни одной из сторон. Генрих V считал, что не может пойти так далеко, как французский и английский короли. Симбиоз между церковью и империей был настолько тесен, что любой разлом или ослабление нанесли бы ущерб обеим сторонам, а немецкие епископы были не меньше привязаны к империи, чем ее суверен. Эта позиция ясно проявилась при встрече прелатов и Пасхалия II в Шалонена-Марне весной 1107 г. Годом ранее синод Гуасталла настоял на неукоснительной поддержке григорианской доктрины. Немецкие делегаты категорически отказались вести переговоры при условии настаивания на данной точке зрения, которую папа поторопился подтвердить через несколько дней на синоде в Труа: любой человек, получивший инвеституру от светского лица, будет смещен. Со своей стороны представители императора составили, возможно, при помощи Сигиберта из Жамблу, договор об инвеституре священников, в котором четко расписывались права императора и который был частично подкреплен фальсифицированным документом, например о так называемой привилегии Адриана I. Обладая документом, который практически не предоставлял свободы действий, епископ Трира и канцлер отправились в Рим, чтобы продолжить переговоры; но Пасхалий II дал весьма уклончивый ответ. Генрих V решил сам поехать в Италию. Приданое, которое он получил от Матильды, дочери английского короля — 10 000 ливров, — покрыло расходы экспедиции, которая достигла окраин Вечного города в 1111 г. Переговоры внезапно приняли неожиданный оборот: папа предложил разрешить разногласия, оборвав все связи с империей. Если епископы откажутся от всего того, что вызывало желание монарха их назначать — имущество и полагающиеся им права, — то почему бы монарху не отдать им инвеституру на таких условиях? Они ему больше ничего не были должны. Нельзя было и представить себе более радикального разделения духовной и светской власти. Генрих V счел, что не может не принять такого дара. Таким образом в Сутри 4 февраля 1111 г. был составлен текст соглашения. Король его ратифицировал, но с условием, что немецкие епископы его поддержат. Казалось, больше не было препятствий для его коронации, которая намечалась на 12 февраля и должна была ознаменовать примирение духовенства и империи. Но коронация была прервана громкими протестами присутствующих епископов, как только Пасхалий II повторил обязательства, взятые послами в Сутри. Генрих заявил, что соглашение неприменимо, а папа отказался его короновать. Понтифик тут же был схвачен и удерживался в качестве пленника в германском лагере. Придумал ли Генрих V этот сценарий с самого начала? Не была ли коронация только поводом, чтобы схватить Пасхалия II? Некоторые историки оправдывают Генриха V и утверждают, что он имел честные намерения, но возмущение епископами вынудило его изменить точку зрения in extremis, чтобы не оттолкнуть от себя верных прелатов. По-видимому, его настолько привели в замешательство действительно революционные предложения папского престола, что он их принял сразу, не оправившись от удивления; он быстро понял, насколько они нереальны, и не имел другого выхода, кроме применения силы. Как бы то ни было, Генрих V произвел на несчастного понтифика такое сильное давление, что 12 апреля тот полностью капитулировал, признал светскую инвеституру и на следующий день провел коронацию.

Однако эта победа была обречена на провал! Вскоре григорианская партия придала смелости бедному Пасхалию II, и в марте 1112 г. Латранский собор аннулировал все концессии, которые император получил силой: этот privilegium был только pravilegium, плохим законом. Иными словами, Генриху V нужно было начинать все сначала. Он ошибочно полагал, что мог наследовать своему отцу и расширить владения в Саксонии. Когда в 1114 г. он посадил под арест графа Тюрингии, недовольства вспыхнули тотчас же. На западе архиепископ Кельнский, при поддержке князей из Нижней Лотарингии, разорвал отношения со своим императором. На востоке взбунтовавшиеся саксы могли рассчитывать на помощь нового герцога Лотаря Суплинбургского, координировавшего их действия. Дважды императорские войска терпели поражение. В день Пасхи в 1115 г. папские легаты отлучили Генриха V. Только Швабия, управляемая железной рукой Фридриха Штауфена, осталась верной императору. Последний отправился в Италию в надежде снова заставить папу капитулировать. Но Пасхалий II не стал дожидаться и укрылся в Беневенто в марте 1116 г. Его преемник Геласий II, избранный вопреки протесту Франджипани, союзников Генриха V, также покинул императора, который собирался его захватить в марте 1118 г. Назначенный монархом антипапа Григорий VIII был всего лишь марионеткой. В ответ Геласий II, несмотря на то, что был вынужден покинуть Вечный город, мог утверждать, совершая поездку по Франции, что никто не смог опровергнуть его авторитет. Он умер в Клуни 27 января 1119 г. С 1 марта ему на смену пришел Ги Вьенский и принял имя Каликст II. Он слыл человеком принципиальным; но именно в период его понтификата спор об инвеституре наконец разрешился.

Идеи Ива Шартрского не утратили своей силы, и епископы, в частности Шалонский, Гийом де Шампо, их приняли. В Германии также желание умиротворения побуждало многих прелатов найти решения, способные объединить два лагеря. Опыт французов доказывал, что король может рассчитывать на верность епископов, даже если их выбирал не он. Во время проведения собора в Реймсе Каликст II отправился в Музон для встречи с Генрихом V в октябре 1119 г., но переговоры ни к чему не привели, и собор довольствовался еще одним провозглашением запрета светских инвеститур. Только благодаря действиям, предпринятым князьями, удалось установить мир. Когда имперские войска и мятежники, прибывшие из Саксонии под стены Майна, перешли в рукопашную, архиепископ Трира собрал вельмож, чтобы приказать императору подчиниться папе под предлогом того, что последний сохранил «честь королевства». На соборе в Вюрцбурге 29 сентября 1121 г. это решение было поддержано. Потребовался еще один год, чтобы 23 сентября 1122 г. трудные переговоры привели к Вормсскому конкордату, названному так в честь города, где оно было подписано. Император отказывался от права наделять прелатов кольцом и посохом. Он признавал, что епископы должны свободно избираться и проходить освящение, а также обязался вернуть все имущество, которое они с отцом отобрали у церкви. Со своей стороны Каликст II обещал, что в Германии Генрих IV будет присутствовать на избрании, не прибегая к симонии или же к принуждению с целью склонить решение в пользу интересующего его кандидата, в случае возникновения спора он поддержит кандидатуру, предложенную местным епископом. В Германии за императором сохранялось право наделять епископов ленами и светской властью, вручая им скипетр до освящения, а в Бургундии и Италии он вручал инвеституру по прошествии шести месяцев. Епископы же должны были нести вассальные обязанности перед императором. Вполне вероятно, что данное соглашение, которое должно было иметь окончательный характер, хоть и не прямо в тексте документа, но уж точно в намерениях подписывающих сторон прекращало спор, более полувека противопоставляющий империю и папство.