Этот прямолинейный и механический уровень сервиса скоро будет неминуемо превзойден быстроразвивающимися цифровыми помощниками. Следующее поколение помощников будет «жить» скорее в облаке, чем собственно внутри устройств, и они будут отслеживать все, что мы делаем, через наши мобильные гаджеты, системы домашней автоматизации, датчики и компьютеры. Только представьте квантовую мощность Watson от IBM, доступную на мобильном устройстве – не нужно даже касаться клавиатуры, можно просто задать вопрос. Затем все, что нам надо будет сделать, – это подумать и отправить команду через интерфейс «мозг – компьютер». Появления суперчеловека осталось ждать недолго.

В 2016 году Siri, Google Now и Cortana были уже способны отвечать на простые вопросы о погоде или местах, где можно найти определенные вещи, а ИИ от Gmail мог самостоятельно ответить на некоторые электронные письма. Скоро они без всякого контроля смогут назначать встречи и бронировать авиаперелеты. Они станут нашим другом-в-облаке, а потом мы не сможем без них обходиться, как без глаз и ушей. Но главный вопрос заключается в том, смогут ли они сделать нас счастливыми. И вообще, что такое счастье (см. главу 9)?

В опубликованной в 2015 году статье «Является ли Cortana опасным шагом к искусственному интеллекту?»[90] писатель Брэд Джонс[91] объясняет:

Неясно, смогут ли эти помощники выполнять задачи, на которые они изначально не были запрограммированы. Этого результата, как мы уже упоминали, ждут от глубокого обучения – машины, способной к самостоятельному обучению, думающей, а не просто следующей коду.

Эти «продолжения нас» будут использовать экспоненциальные мощности нейронных сетей, глубокого обучения и когнитивных вычислений, чтобы обеспечить нас эффективными, персонализированными и упреждающими сервисами. С течением времени у них неминуемо начнут развиваться прекогнитивные способности. Добавьте ко всему ДР/ВР и интерфейсы «мозг – компьютер» – и не будет предела для достижений цифровых умных помощников будущего.

В тот момент, когда мой умный помощник будет знать всю мою историю и любую информацию обо мне в реальном времени, а также сможет сравнить ее с данными миллионов других помощников, подключенных к одной сети, он сможет с уверенностью предсказывать мои действия и реакции. Добро пожаловать в программу профилактики преступлений, где правонарушения можно будет предотвратить на основании собранных ботами данных о зарождающихся намерениях людей, даже если сам человек не будет о них знать. Британская компания Precobs уже тестирует подобные программы в работе местной полиции119.

И также добро пожаловать в мир потенциальных глобальных политических манипуляций через цифровой контент и медиа, в которых цифровые помощники будут нашими официальными представителями, а может быть, из практических соображений – даже нами самими. Может ли умный помощник стать жертвой манипуляций или умышленно вступить в сговор с целью повлиять на мои решения?

Как говорила еще в 2013 году компания Gartner, мобильные устройства синхронизируются со мной, видят меня, знают меня… и скоро они превратятся в меня120. И снова я задаю себе вопрос: приведет ли это к процветанию человечества? Я сильно в этом сомневаюсь.

В ближайшем будущем мы уже сможем наблюдать, как наш цифровой помощник пытается договориться с цифровым помощником авиакомпании, чтобы нам в ближайшие шесть минут были оформлены лучшие по цене и качеству билеты на Гавайи. И, разумеется, помощник будет совершать за нас большую часть покупок, ведь он сможет сделать это более эффективно, постоянно собирая сведения о подарочных купонах и распродажах, анализировать ситуацию и мгновенно принимать лучшие решения. Все, что мне нужно, – это подумать о покупке, и она уже ждет меня. Моментальное удовлетворение потребностей в мире полного изобилия. Но в то время как снаружи нас ожидает это самое изобилие, внутри нас все сильнее будет проявляться нехватка чего-то важного: отношений, общества, ценностей, духовности, убеждений.

Для многих ученых и технологических детерминистов из Кремниевой долины растущая мощность умных цифровых помощников ближайшего будущего не представляет собой никакой опасности – что плохого в том, чтобы использовать помощников, которые справляются с задачами чуть лучше, чем мои сегодняшние приложения, верно? В таком случае давайте рассмотрим более настораживающие возможные сценарии будущего.

Подумаем о том, что для того, чтобы быть великолепными, быстрыми и интуитивно предугадывать все наши желания, умным цифровым помощникам (нашим блистательным устройствам и продолжениям нас самих, личным облачным роботам) придется знать действительно многое о нас. На самом деле им, вероятно, придется знать о нас абсолютно все, отбирать информацию в реальном времени из всех доступных источников и постоянно обновлять ее. И многие из нас будут считать, что не имеют ничего против того, чтобы такая система располагала этими данными. Это позволит постоянно улучшать качество услуг, что сделает нашу жизнь еще проще: действительно, как ничтожна цена, которую нужно заплатить за это удивительное удобство и наши возрастающие силы!

Мы добровольно соглашаемся на то, чтобы за нами следили, – примерами тому могут послужить наши две любимые функции «сохранить» и «поделиться», обеспечивающие наш постоянный контакт с платформой. Google мастерски удается таким образом удерживать нас в своей постоянно расширяющейся вселенной, и Google – это лишь один пример такой глобальной платформы, которая хочет стать чем-то вроде всемирного мозга, дублирующего информацию о каждом пользователе в своем облаке. Возможность следить за нами – это как деньги в банке для компаний, работающих исключительно на данных: Google, Baidu, Alibaba, Facebook – компаний, которые не предлагают нам никаких материальных товаров, но специализируются на обработке данных и продвижении рекламы и информационных суперузлах. Представьте их мощность, в тысячи раз увеличенную с помощью ИИ и интернета вещей, – и увидите, как их доходы станут заоблачными.

Кто хочет тотальную слежку?

Итак, какие же проблемы могут возникнуть из-за умных цифровых помощников? Вот несколько примеров того, что они могут спровоцировать.

• Обострение проблем с безопасностью и настройками приватности.

Умного помощника могут взломать, обмануть, запугать или подкупить – тем или иным способом заставить его передать информацию о пользователе другому ИИ, которого он встретит на просторах сети. Например, он может разгласить пароли, с помощью которых третьи лица смогут отправлять электронные письма, делать покупки и пользоваться социальными медиа от лица своего владельца. Масштаб бедствия, следующий за такой комплексной утечкой информации, может привести к непоправимому ущербу, а владелец помощника может при этом оставаться в полном неведении!