Основные положения данной идеи (без подсчёта количества генов) были сформулированы Чарльзом Дарвином в «Происхождении видов». Дарвин проявлял большой интерес к муравьям и другим социальным насекомым. Он наблюдал за их поведением в своём загородном доме в Дауне и наведывался в Британский музей естественной истории, чтобы побольше узнать о муравьях от энтомолога Фредерика Смита. Муравьи представляли для него «особую трудность, которая сначала казалась непреодолимой и действительно роковой для всей теории». Великий натуралист пытался понять, как каста рабочих муравьёв смогла эволюционировать, учитывая стерильность и отсутствие потомства.

Чтобы отстоять свою теорию, Дарвин выдвинул идею о том, что естественный отбор действует на уровне семьи, а не отдельных организмов. По его мнению, если некоторые члены семьи стерильны, но обеспечивают благополучие производящих потомство родственников, как в случае колоний насекомых, то отбор на семейном уровне становится не просто возможен, но и неизбежен. Если единицей отбора становится вся семья, которая борется за выживание и размножение с другими семьями, то наличие стерильных, но альтруистичных родственников предпочтительнее для генетической эволюции. Дарвин писал: «Отбор может быть применён к семье так же, как и к отдельной особи, и так же привести к желаемой цели. Заводчики крупного рогатого скота желают, чтобы мясо и жир были представлены в определённой пропорции, и, хотя животное, обладающее этими свойствами, идёт на бойню, животновод уверенно продолжает разводить ту же породу, и это ему удаётся». Таким образом, стерильные рабочие в колонии муравьёв могут появляться на свет и жертвовать собой: как и в случае с отправленными на убой быками, их гены распространяются выжившими родственниками. Рассуждая о муравьях-солдатах и рабочих, Дарвин продолжает: «Имея перед собой такие факты, я не сомневаюсь, что естественный отбор путём воздействия на фертильных муравьёв, или родителей, мог бы произвести такой вид, который систематически давал бы бесполых особей. Все они были бы крупными, с челюстями одной формы, или все малой величины с челюстями разного типа, или, наконец, что представляет наибольшую трудность, одна группа рабочих была бы одной величины и строения и одновременно другая – иной».

Дарвин предоставил базовое описание принципа родственного отбора, чтобы объяснить самопожертвование с точки зрения естественного отбора. Что важнее, он продемонстрировал, что существование муравьёв-рабочих не противоречит его теории. После этого на протяжении ста лет энтомологи принимали стерильные касты муравьёв как данность. Они полагали, что сообщества насекомых образуются благодаря преимуществам социальной жизни, а стерильные касты внутри них являются логическим следствием данного процесса. Казалось, что изучать эту проблему подробнее не имеет смысла.

Однако в 1963 году британский энтомолог и генетик Уильям Гамильтон заставил научное сообщество взглянуть на ситуацию несколько иначе. Он заявил, что перепончатокрылые – отряд насекомых, в который входят пчёлы, осы и муравьи – генетически предрасположены к социальному образу жизни из-за способа наследования пола. Родственный отбор работает так, как и полагал Дарвин, однако из-за необычного способа полового детерминизма у перепончатокрылых он становится движущей силой. Чтобы понять принцип его работы, для начала надо представить общий количественный принцип родственного отбора, установленный Гамильтоном. По его мнению, чтобы альтруизм как черта закрепился, его преимущества для родственников должны перевешивать обратную сторону таких отношений между донором и его родственниками. Рассмотрим ситуацию, когда донор жертвует жизнью или по меньшей мере не производит потомства, чтобы помочь родственникам. Как правило, особь имеет половину общих генов с братьями и сёстрами. Величина, обратная одной второй, – два; таким образом, чтобы ген альтруизма смог распространиться, самопожертвование должно увеличивать потомство брата или сестры донора более чем двукратно. Кроме того, особь-альтруист имеет четверть общих генов с дядей; если её самопожертвование направлено на него, потомство дяди должно увеличиться более чем в четыре раза для распространения гена. Аналогичным образом особь делит одну восьмую генов с кузенами и кузинами, следовательно, потомство таковых должно увеличиться более чем восьмикратно, и так далее. Преимущество может передаваться кумулятивно многим родственникам. Однако за пределами узкого круга ближайших родственников – прямых потомков, двоюродных братьев и сестёр – его практически невозможно проследить. Подлинный альтруизм – инстинктивная щедрость и готовность пожертвовать собой, не предполагающая личного вознаграждения – вероятнее всего, будет наблюдаться только среди ближайших членов семьи. Иными словами, наследственный альтруизм узко ограничен.

Теперь рассмотрим неожиданный поворот, обнаруженный Гамильтоном. Насекомые из отряда перепончатокрылых, в который входят муравьи, пчёлы и осы, наследуют пол посредством гаплодиплоидии. За сложным названием скрывается довольно простой процесс: из оплодотворённых диплоидных (содержащих два набора хромосом) яйцеклеток развиваются самки, а из неоплодотворённых гаплоидных (с одним набором хромосом) – самцы. Гамильтон заметил, что, поскольку у самок перепончатокрылых есть мать и отец, передающие равное число генов, матери делят половину общих генов с дочерьми, что характерно для животного царства. Однако у сестёр три четверти генов – общие. Подобное исключительное родство обусловлено тем, что их отец появился на свет из неоплодотворённого яйца. Таким образом, у него нет привычного сочетания генов – вместо этого он обладает лишь набором генов матери. Следовательно, все сперматозоиды муравья, осы или другого перепончатокрылого, благодаря которым на свет появляются самки, идентичны. Значит, сёстры этих видов генетически ближе друг другу, чем в случае других животных: три четверти общих генов вместо привычной половины.

Представьте себе, что вы оса, окружённая родственниками. У вас половина общих генов с матерью, и половина – с дочерьми. Они не требуют особого внимания. Однако с сёстрами вас объединяют три четверти генов. Таким образом, оптимальный вариант – довольно неожиданный: чтобы гены, идентичные вашим, передались следующему поколению, вам выгоднее помогать сёстрам, а не дочерям. Ваш мир переворачивается с ног на голову. Как лучше всего распространить свои гены? Ответ: надо стать членом колонии. Отказаться от собственного потомства, защищать и кормить мать, чтобы помочь произвести на свет как можно больше сестёр. Поэтому лучший выход для осы – стать муравьём.

Отношения с братьями не менее странны. У вас нет общего отца – вернее, у братьев вообще нет отца. В результате они связаны с вами только четвертью генов. Поэтому идеальный вариант для передачи генов – растить ограниченное количество братьев, причём только тогда, когда молодым маткам требуется осеменение. Оптимальным решением для братьев является ещё большее безразличие друг к другу (и окружающим). Вы можете стать отцом целой новой колонии, так что вам нет нужды растить сестёр и тем более рисковать жизнью, добывая им еду. Предпочтительнее жить за счёт колонии и направить своё тело и поведение на осеменение самок. Поэтому лучший выход для самца в колонии перепончатокрылых – стать трутнем.

Концепция Гамильтона объясняла ряд уникальных особенностей сообществ муравьёв, пчёл и ос, которые были известны давно, но по большей части игнорировались. Одна из таких особенностей – филогенез жизни в колониях. Развитые общества формировались среди перепончатокрылых независимо друг от друга десятки раз, хотя и одиночные, и социальные виды отряда составляют лишь 13 % от общего числа известных науке насекомых. Среди насекомых других отрядов подобной организацией обладают лишь термиты, произошедшие от таракановых в раннем мезозое. Другая загадка, которая долго оставалась без ответа, – роль пола в колониях насекомых. В отряде перепончатокрылых трутни всегда являются самцами, а рабочие особи – самками, в то время как термиты обладают обычной половой детерминацией, следовательно, рабочими особями могут быть и самцы, и самки. Казалось, что идеи Гамильтона пролили свет на многие особенности обществ муравьёв и других перепончатокрылых.