Евзель не просто сочувствует современным прогрессивным образовательным проектам, но в 1863 году основывает «Общество распространения просвещения между евреями России», содержа его почти исключительно на свои средства. Основной пункт его устава гласил: «Общество споспешествует распространению между евреями знания русского языка, издает само и содействует другим к изданию полезных сочинений, переводов и периодических изданий как на русском, так и на еврейских языках, имеющих целью распространять просвещение между евреями, и поощрять пособиями юношество, посвящающее себя наукам». Общество занималось активной издательской деятельностью. Были выпущены «Сборник статей по еврейской истории и литературе» (Вып. 1–2, Спб., 1866–1867), сборники нравоучительных высказываний от эпохи таннаев до последователей М. Мендельсона «Мировоззрение талмудистов, свод религиозно-нравственных поучений, в выдержках из главных книг раввинской письменности» (т. 1–3, Спб., 1874–1876), а также издание Торы с новым переводом – «Пятикнижие Моисеево в еврейском тексте с дословным русским переводом для евреев» (Вильно, 1875) и другие книги, пользовавшиеся широким признанием.

Общество предоставляло субсидии еврейским периодическим изданиям как на русском языке – «День» (1869–1876), «Еврейская библиотека» (1871–1880), так и на иврите – «Ха-Цфира», «Ха-Мелиц», а также на составление учебников русского языка для евреев и перевода на русский язык сиддура и махзоров. Общество оказывало материальную помощь еврейским ученым, занимавшимся исследованиями еврейской истории, авторам научно-популярных книг на иврите, пропагандировавшим «положительные науки и естественные знания». Кроме того, оно распространяло книги на иврите, учебные пособия, помогало формировать еврейские общественные и школьные библиотеки. Значительную статью расходов в бюджете общества составляла помощь учащимся высших и средних учебных заведений. В частности, была учреждена стипендия для евреев, обучавшихся в Медико-хирургической академии. Так не без участия Гинцбурга в России появились первые дипломированные врачи иудейского вероисповедания.

В поле зрения нашего мецената и правозащитника оказались и евреи-ремесленники, для коих он добился от правительства разрешения проживать за пределами черты оседлости. И опять Евзель идет здесь вразрез с традиционными представлениями еврейской массы, относившейся к подобному труду с нескрываемым презрением. Тем самым он поощряет иудеев к занятиям производительной деятельностью вопреки господствующим предрассудкам!

Ратует он и за насаждение среди евреев земледельческого труда, о чем подает записку в правительство в 1862 году, а также создает при Министерстве государственных имуществ специальный фонд для премирования лучших евреев-земледельцев.

По неустанным ходатайствам Евзеля Гинцбурга и при деятельной помощи его сына Горация проживание за пределами черты оседлости было разрешено следующим категориям евреев: купцам 1-й гильдии (1859); так называемым «николаевским солдатам», то есть лицам, отбывшим воинскую службу по рекрутскому уставу (1867); всем, занимающимся так называемыми «либеральными» профессиями, то есть акушеркам, фармацевтам, дантистам и т. д. (1869).

Особенное же внимание уделил Гинцбург вопросу о реформе воинской повинности, разрабатываемой в 1870-е годы. Большинство иудеев, чуждые русскому языку, тщательно оберегавшие свои ритуальные законы, в особенности о кошерной пище, считали эту повинность огромным бедствием для еврейского народа. Евзель же стоял на том, что предоставление прав евреям накладывает на них обязательство по исполнению всех повинностей, не исключая и воинской, и если евреи не будут уравнены с другими в обязанностях перед государством, нельзя будет мечтать об уравнении их и в гражданских правах. И действительно, воинский устав 1874 года уравнял в правах всех и не содержал ни одного постановления, которое относилось бы специально к евреям. Этот результат был достигнут благодаря самоотверженной работе Гинцбурга.

Евзелю Гаврииловичу удалось добиться, казалось бы, невозможного – высочайшего разрешения на строительство в Петербурге Хоральной синагоги. Долгое время он был признанным лидером столичной еврейской общины.

В 1874 году к многочисленным его регалиям прибавился еще и титул барона. Он был дарован Гинцбургу великим герцогом Гессен-Дармштадтским. В этом звании семья Гинцбургов была записана в особую книгу, которая велась Департаментом Герольдии Правительствующего Сената для дворян, имеющих почетные титулы.

Евзель Гавриилович ушел из жизни в январе 1878 года в окружении многочисленного семейства. Смерть застала его на берегах Сены, где он, неизлечимо больной, спасаясь от сырой и промозглой петербургской зимы, провел последние дни. И похоронен он был в Париже, в фамильном склепе.

Ему была дарована успешная и счастливая жизнь созидателя. И вместе с созданными им банками, предприятиями, акционерными обществами, вместе с происходившими благодаря его усилиям благотворными переменами в положении русских евреев, Евзель Гинцбург создал и себя, собственную личность, обаятельную и исключительно притягательную, оставившую заметный след в российской истории.

Сохранился исторический анекдот: барон Гораций Осипович Гинцбург (1833–1909) как-то ехал в карете с императором Николаем П. Проходивший мимо мужик не смог сдержать удивления: «Надо же, жид с царем едет!» Мужика схватили и хотели было препроводить в кутузку за оскорбление барона. Но Гинцбург попросил не наказывать простолюдина и даже подарил ему золотой. За что? За то, что тот лишний раз напомнил ему, что он еврей. А этот представительный господин, изъяснявшийся на французском лучше, чем на русском, высокого роста, статный, с аристократическими манерами и с такой пленительной, располагающей к себе улыбкой, очень любил, когда ему напоминали о его происхождении, ибо был евреем религиозным и самым что ни на есть правоверным. Он был убежден, что иудаизм является предтечей всякой культуры. О чем бы ни заходила речь, барон неизменно ссылался на то, что в еврейской письменности давно уже имеется разрешение всех проблем касательно благополучия людского. Одной из его любимых фраз было: «В Талмуде сказано…» И эта убежденность проскальзывала во всех его разговорах.

Доскональное знание Талмуда и древнееврейского языка он приобрел еще в детстве под руководством известного знатока иврита М. Сухоставера, сначала в Звенигородке Киевской губернии, где он родился и провел ранние годы, а затем в Петербурге и Париже, где попеременно проживала семья Гинцбургов. Как и другим своим детям, отец дал Горацию блестящее домашнее образование, поручив сие лучшим педагогам и специалистам. Вообще, авторитет родителя был всегда непререкаем для Горация. «Мой отец так поступал или находил нужным так поступать,» – это было побудительным мотивом всех его дел и поступков. Неудивительно поэтому, что уже в молодые годы он становится главным компаньоном и помощником отца. И женился он в двадцать лет на своей кузине Анне Гесселевне Розенберг (1838–1878) тоже с оглядкой на Евзеля Гаврииловича: ведь избранница Горация пользовалась в семье Гинцбургов особым уважением и имела на тестя огромное влияние.