Новое моральное исчисление

Мы должны тратить столько же времени и ресурсов на цифровую этику, сколько мы тратим на экспоненциальные технологии. Изучение неожиданных последствий экспоненциальных технологий и предотвращение ущерба человечеству, выходя далеко за пределы экзистенциальных рисков, требуют такой же поддержки, какую мы оказываем наукам, которые сейчас движут этими изменениями. Человеческий фактор требует такого же финансирования и продвижения, как и наука – действительно, «древо» познания (наука, техника, инженерия и математика) не может существовать без «корней» (креативность, оригинальность, взаимность и сочувствие).

«Homo roboticus? Люди и машины в поисках взаимопонимания»

В своей книге «Homo roboticus? Люди и машины в поисках взаимопонимания» (2015) журналист The New York Times Джон Маркофф подчеркивает необходимость этого нового морального исчисления:

Пять новых прав человека в цифровую эпоху

Вот эти пять основных прав человека, которые, как я скромно предполагаю, могут стать частью будущего манифеста цифровой этики.

1. Право оставаться естественным, то есть биологическим, – у нас должно быть право жить в государстве без автоматизированных систем. Мы должны сохранить за собой право работать, пользоваться государственными услугами, покупать вещи и функционировать в обществе без необходимости размещать дополнительные устройства на наших телах или внедрять их в наши органы. Эти страхи #Подключайся Или Увольняйся уже стали проблемой в отношении мобильных устройств и социальных сетей (хотя и считаются в основном неопасными). Тем не менее можно легко представить себе будущее, в котором нам придется носить очки дополненной или виртуальной реальности, козырьки или шлемы, чтобы получить работу, или даже хуже – будет необходимо использовать или вживить специальные приложения для человеческого организма для трудоустройства. Люди сами по себе больше не будут достаточно хороши – и это нежелательное будущее.

2. Право быть низкоэффективными там где низкая эффективность определяется нашими физиологическим ограничениями, – у нас должно быть право быть медленнее технологий. Мы не должны ставить производительность выше человечества. Вскоре может оказаться намного эффективнее и дешевле использовать цифровую диагностику здоровья с помощью таких платформ, как Scanadu, чем обращаться к врачу каждый раз, когда есть медицинская проблема. Я считаю, что эти технологии в целом приведут к прогрессу и могут быть одним из ключей к снижению стоимости здравоохранения. Тем не менее означает ли это, что мы должны наказывать людей, которые решают поступить иначе, или принуждать к соблюдению новых правил тех, кто не хочет, чтобы их данные о здоровье находились в облаке?

3. Право не быть постоянно на связи – мы должны сохранить за собой право «отключиться», «уйти в тень» в сети и приостановить связь, отслеживание и контроль за нами и нашим местоположением. Можно ожидать, что многие работодатели и компании сделают гиперкоммуникацию с помощью технических средств стандартным требованием в ближайшем будущем. Как работник или застрахованный водитель вы можете понести ответственность за прерывание связи без разрешения, если вы и/или ваш автомобиль больше нельзя будет отследить в сети.

Быть самодостаточным и технически «отключенным» в разное время по собственному желанию – это принципиально важное право, потому что «отключение» позволяет нам оставаться в нашей реальной среде и наслаждаться жизнью. Это также снижает риск цифрового ожирения (см. главу 7) и уменьшает вероятность случайной слежки. Офлайн может стать новой роскошью, но он должен оставаться основным правом.

4. Право быть анонимным – в приближающемся будущем с гиперсвязанным миром у нас все равно должна быть возможность не опознаваться и не отслеживаться, например при использовании цифрового приложения или платформы, а также при комментировании или критике, если это безопасно для других и не нарушает ничьих прав. Безусловно, в некоторых очевидных случаях настоящая анонимность будет невозможна, и, вероятно, этого неразумно ожидать, например, когда дело касается банковских операций в цифровой среде. Тем не менее мы должны быть уверены в том, что защищенные пространства сохраняются там, где не требуется и не считается нормой полное отслеживание, например, когда вы высказываете политические взгляды, обмениваетесь личными фотографиями или получаете медицинскую консультацию. Анонимность, тайна, беспринципность и ошибки являются важнейшими человеческими атрибутами, которые мы не должны пытаться устранить с помощью технологических средств.

5. Право нанимать или привлекать людей вместо машин – мы не должны позволять компаниям или работодателям оказаться в невыгодном положении, если они захотят использовать людей вместо машин, даже если они более дорогие и менее производительные. Вместо этого мы должны предоставлять налоговые льготы тем, кто это делает, и предусмотреть налоги на автоматизацию для компаний, которые значительно сокращают число сотрудников в пользу машин и программного обеспечения. Эти налоги должны быть направлены на переподготовку людей, ставших жертвами технологической безработицы.

Важно заметить, что многие из этих прав затрагивают важный вопрос, находящийся в центре этих споров: сколько свободы мы готовы пожертвовать, чтобы стать или более производительными, или более безопасными? Также нужно задуматься: какой должна быть этика безопасности и как технологии будут решать этот важнейший вопрос?

15 ошибок, которые следует избегать

В целях развития и внедрения четкой и согласованной на глобальном уровне цифровой этики приведем несколько конкретных примеров технологических ошибок, которых нам следует избегать, если мы хотим, чтобы человечество одержало победу.

Я прекрасно понимаю, что в качестве пищи для обсуждения, некоторые из предложенных заповедей могут оказаться слишком упрощенными, идеалистическими, непрактичными, утопическими, неполными и противоречивыми. Поэтому я с вашего позволения представляю их просто в духе отправной точки для дискуссии.

1. Мы не будем требовать или планировать, чтобы люди постепенно сами становились технологиями, только из-за того, что это будет выгодно для технологий или технологических компаний и/или стимулировать рост.

2. Мы не будем позволять, чтобы людьми управляли или, по сути, руководили такие технологии, как искусственный интеллект, интернет вещей или робототехника.

3. Мы не должны изменять природу человека, программируя или производя новых существ с помощью технологий.