В 1851 г. он служил, гвардейским инженером в Петербурге и руководил практическими работами гвардейского саперного батальона во время лагерных сборов.

В начале 1854 г. Тотлебен был вызван в главный штаб Дунайской армии, где исполнил ряд поручений генерал-адъютанта Шильдера, совершив под огнем турецких батарей ряд блестящих рекогносцировок, и выработал план атаки укреплений при Калафате. Особенно Тотлебен отличился при осаде Силистрии. С началом подготовительных осадных работ он был назначен траншей-майором, а затем заменил получившего ранение Шильдера, приняв на себя руководство всеми осадными работами. Результатом его деятельности стал взрыв, уничтоживший 7 июня весь фронт передового укрепления Араб-Табия.

Когда осада Силистрии была снята, Тотлебен был направлен в Севастополь. Главнокомандующий А.С. Меншиков отклонил предложение Тотлебена о немедленном начале оборонительных работ. Работы были начаты лишь тогда, когда высадка уже состоялась. При устройстве оборонительной линии Тотлебен принял за основание следующий принцип. Избиралась ближайшая к городу позиция, уже с существующими укреплениями, и на главных ее пунктах выставлялась сильная артиллерия. Эти пункты соединялись траншеям и для ружейной обороны и для прикрытий. Между главными пунктами в некоторых местах ставились дополнительные батареи. В итоге все подступы к городу должны были получить сильную фронтальную и фланговую оборону как артиллерийским, так и ружейным огнем.

Попытки союзников взорвать севастопольские укрепления посредством закладки под них мин натолкнулись на подготовленные Тотлебеным сети минных галерей и окончились безрезультатно.

8 июня 1855 г. Тотлебен был ранен в ногу пулей навылет, но даже ранение не заставило его покинуть позиции, и он продолжал руководить оборонительными работами.

После падения Севастополя Тотлебен, произведенный в чин генерал-адъютанта, был вызван в Николаев для строительства укреплений. После окончания Крымской войны он принял на себя заведование перевооружением Кронштадтских укреплений, а затем в продолжение двух лет занимался изучением крепостей Германии и Франции и организации там инженерного дела. В 1859 г. Тотлебен был назначен директором Инженерного департамента.

В 1863–1864 гг.под его непосредственным руководством была проведена огромная работа по обустройству и обновлению крепостных укреплений в Свеаборге, Ацнабурге, Выборге и Николаеве. Были созданы укрепления в устьях Невы и Северной Мины, а Кронштадт получил мощную линию береговой обороны для отражения нападения неприятельского флота.

В 1866–1873 гг. Тотлебен занимает пост товарища (заместителя) генерал-инспектора по инженерной части. В это же время им была разработана система укреплений на северо-западных границах, а в 1869 г. он составил проект укрепления Киева. В качестве председателя артиллерийской инженерной комиссии Тотлебен принял участие в вооружении русских крепостей нарезными орудиями.

С 1871 по 1875 г. Тотлебен занимался разработкой новой системы, оборонительных линий, с их главными крепостными опорными пунктами. На особом совещании о стратегическом положении России, состоявшемся в 1873 г. под председательством Александра II, был принят план Тотлебена, по которому Новогеоргиевск, Бендеры, Ивангород и Варшава усиливались передовыми укреплениями и строились передовые укрепления вокруг Бреста для прикрытия железных дорог, у Очакова и Ямполя. Также было решено укрепить Гродно, Ковно и позицию под Вильно, построить укрепления впереди Аубны. и Проскуроваиу моста Осовец, обеспечить переправу через Западную Двину у Риги. Работы по исполнению этого плана были остановлены, начавшейся Русско-турецкой войной.

С 1874 г. Тотлебен работал над реорганизацией инженерных войск с учетом современных требований военной науки. В 1876 г. он был назначен главным распорядителем по обороне черноморского побережья. В Керчи, Очакове, Одессе и Севастополе Тотлебеном были установлены мины, возведены новые батареи и усилено вооружение.

Во время Русско-турецкой войны 1877–1878 гг. он был направлен к осажденной Плевне и, прибыв туда 2 сентября 1877 г., сразу принял руководство осадными работами. После взятия Плевны Тотлебен был назначен командиром Рущукского отряда, но 8 февраля 1878 г. был вызван в Петербург для совещания по вопросу о занятии Босфора и закрытии его для английского флота, стоявшего у Принцевых островов.

Назначенный вслед за этим главнокомандующим, Тотлебен после прибытия к армии понял, что занятие Босфора невозможно и не имеет смысла, а в случае даже успешного штурма Константинополя выгоды будут иметь лишь временный характер, а в случае неудачи могут быть потеряны все итоги успешной войны. Поэтому Тотлебенлишь поддерживал дипломатов во время переговоров о заключении мира. Он же руководил и возвращением войск в Россию. За победы в Русско-турецкой войне 1877–1878 гг. он был награжден орденами Св. Георгия 2-й степени и Св. Андрея Первозванного.

В 1879 г. Тотлебен был возведен в графское достоинство. В том же году он был назначен одесским генерал-губернатором. На следующий год он становится виленским, ковненским и гродненским генерал-губернатором. Э.И. Тотлебен скончался в 1884 г. и был похоронен в Севастополе.

Э.И. Тотлебену суждено было оставить глубокий след в истории России. Но впервые он стал широко известен и в нашей стране и за рубежом именно благодаря созданию оборонительных укреплений Севастополя. В течение немногих дней вся Южная сторона Севастополя была окружена оборонительной линией, основу которой составляли шесть бастионов. Три из них прикрывали Корабельную сторону города, а три других — Городскую. Важнейшим пунктом обороны должен был стать Малахов курган на восточной окраине Севастополя. Позади главной оборонительной линии, поспешно, но тщательно созданной, в скором времени появились еще две запасные линии редутов, укрепленных батарей, баррикад.

А перед главной линией обороны неприятеля также ждали сюрпризы — небольшие завалы для снайперов, в дальнейшем соединенные по нескольку вместе окопами, куда вмещались уже несколько десятков стрелков. Для защиты от снарядов противника строились блиндажи, щиты из толстых тросов, прикрывающих артиллерийскую прислугу от неприятельских пуль и т.д.

Все это делалось под пристальным вниманием осаждающих, естественно, пытавшихся противодействовать столь интенсивной работе севастопольцев. Но строительство продолжалось при любом противодействии. Ибо от этого зависело, жить городу или умереть.

С 15 сентября по 5 октября было построено более 20 батарей, и артиллерийское вооружение севастопольских укреплений возросло в два раза — с 172 до 341 орудия. Огромную роль сыграли корабельные орудия. Всего за время осады города на сухопутных позициях было установлено более 2 тысяч орудий с кораблей Черноморского флота. «Вся оборонительная линия (кроме 6-го бастиона и малого числа мортир), — писал современник-артиллерист, — была вооружена морскими орудиями и снабжалась в продолжение всей обороны морским ведомством Таким образом, наша оборонительная линия до некоторой степени представляла собой прежний наш Черноморский флот, перешедший на берег со всеми судовыми порядками и морской обстановкой».