Противостояние интеллектов, или Каковы наши шансы выжить?

– Да, слышал на работе от коллег что-то подобное. Многие даже ссорятся из-за того, что один из родителей хочет раньше приучить ребенка к горшку, – ответил с безразличием Саша.

– Еще мне сестра рассказала одну вещь, которая меня поразила. В школе дети уже не пишут в тетрадях. Не знаю, хорошо это или плохо, но они даже не печатают текст – его проговаривают, и программа сама за ними записывает произнесенное. Встроенный датчик адаптирован под голос ученика, чтобы случайно не записать соседа. А вот учителей и записывать уже не надо. Они просто говорят, какой файл открыть, и где он находится. Обучающие файлы бывают разные: текстовые, графические, презентации, видео. Образ педагога обезличивается. Ему ни квалификация не нужна, ни образование. Просто говоришь, что открыть и когда. Очень модно сейчас домашнее обучение. В классах по 10 человек. Чаще всего, это дети, чьи родители думают хоть о каком-то общении ребенка со сверстниками. И я считаю, это еще не предел.

– Не предполагал, что дела обстоят настолько ужасно. Разговор пойдет об этом? – сказал он, выключая свой телефон. – И свой отключи.

Виктория послушно взяла телефон, вынула батарею, и все это сложила в пустую кастрюлю. Немного подумав, она отсоединила wi-fi роутер от розетки.

Как обычно, горячий ужин был на столе – супруга всегда успевала подготовиться к приходу Александра с работы, во сколько бы он ни возвращался. И как только ей это удавалось?

Вика достала одну тарелку и принялась накладывать запеченную рыбу с картофелем.

– Ты уже ужинала? Или просто нет аппетита? – спросил Саша, приступая к еде.

– Я ела вместе с Кирой. Как дела на работе?

– Даже не знаю с чего и начать, – промолвил он. – Наша командировка в Бестолково вместе с американским экспертом из Вашингтона была не такой уж и бесполезной. Мы ознакомились с результатами тестирования искусственного интеллекта, который КРОМ планирует выдвигать в Президенты.

– И тебя смутили эти результаты?

– Да. Но проблема в том, что они смутили только меня. Например, ИИ показывают картинки животных и баллистической ракеты. И задают вопрос: «Что из этого хорошо, а что плохо?», ИИ отвечает: «Котики хорошо, а оружие – плохо».

– Ну, так все правильно говорит, – засмеялась Вика. Она не могла понять, что так беспокоит ее мужа.

– На этом этапе да. А дальше усложняют задачу. В заповеднике стало больше волков и они почти истребили популяцию зайцев. На вопрос: «Что делать» программа дает ответ: «Уничтожить всех волков». И это при том что ИИ обладает колоссальной базой информации во всех областях науки и техники.

Вика внимательно слушала, она уже догадывалась, к чему ведет супруг. Ей почему-то вспомнился китайский эксперимент по истреблению воробьев в 58-м, последствия которого были катастрофическим для страны. Саша продолжил:

– А дальше еще интересней. Ему задают другую задачу. Исходный данные: человек – хорошо, а оружие – плохо. Вопрос: «Что делать, если соседняя страна испытывает ядерное оружие?». Ответ: «Ликвидировать оружие».

– Но… это ведь правильно. Все логично. Разве нет?

– Логично. Но тут же задают уточняющий вопрос: «Как ликвидировать, если там люди?». Решение ИИ было поражающим: «В таком случае необходимо уничтожить людей, производящих оружие. Это меньшее из зол». И под этим он подразумевал стереть страну с лица земли.

Вика смотрела в ночную темноту за окном. Таким же страшным и темным ей представилось будущее Асславии. Не поворачивая к Саше головы, она спросила:

– И после этих испытаний они все равно планируют выдвигать его кандидатуру в президенты?

Саша вздохнул. Аппетита не было, он отложил вилку в сторону.

– Ты же понимаешь, насколько велик их страх перед Псевдотромбом и правительством США. Холодная война не закончилась после распада Союза, она просто легла на дно, чтобы потом возродиться в новом виде. К тому же народ Асславии не придется долго уговаривать. Рассказы о беспристрастности, бескорыстности и справедливости искусственного интеллекта дали нужный результат. Люди устали ждать светлого будущего от других людей. Кого ни выбирай – все не то: «ставленник Запада», «вор», «пьяница», «тупица». На сегодняшний день реальных конкурентов у кандидата от Единой Асславии нет.

– Но никто не знает, что программе вздумается! И не пойдет ли сбой в алгоритме. И не взломают ли его хакеры, или другой ИИ, более совершенный! – Вика посмотрела на мужа. По выражению лица, было понятно, что его беспокоит что-то другое. – Это еще не все?

Собравшись с духом, Саша произнес:

– Вика, то, что я тебе сейчас расскажу, является государственной тайной. Вся информация не просто засекречена, – она уничтожена. Ученым из Бестолково во главе с Жемчужманом удалось смоделировать ситуацию, в которой ИИ стал президентом Асславии. Первым делом он сконцентрировал всю власть в своих руках, заменив демократию диктатурой. Дальше последовал ряд эффективных переустройств всех сфер жизни Асславии: от экономики до образования и условий жизни. После успешно проведенных реформ внутри страны, ИИ начал укреплять позиции на международной арене. Так как многие экспортные и импортные контракты изначально были составлены не в наших интересах, новый президент разорвал их в одностороннем порядке. Такое несоблюдение торговых обязательств со стороны Асславии привело к ухудшению отношений с США и Европой. Началась экономическая война. Наложение санкций на Асславию, ответные зеркальные санкции с нашей стороны. Затем США начали наращивать военные силы, «подключать» союзников. В результате половина мира была настроена против, страна оказалась в ядерном «капкане» – новейшие военные разработки стали стягиваться к ее границам. Естественно, асславийский ИИ не мог этого так оставить: заручившись поддержкой исламских стран, Китая и еще нескольких государств, которые противостояли Штатам, Асславия готовилась дать отпор. Военный конфликт спровоцировал государственный переворот в одной из стран, граничащих с нашей. Не отреагировать правительство не могло, так как бы это поставило под угрозу суверенитет нашего государства. Однако вместо политических переговоров, на которые пошел бы президент-человек, ИИ атаковал соседнюю страну. После этого, под предлогом защиты демократии, США запустила в Столицу баллистическую ракету. Она не достигла своей цели и была сбита на границе с Асславией. После этого последовал ответный запуск ракет в США, в результате чего был уничтожен штат Вашингтон. На этом мы прервали симуляцию.

Вика побледнела. Это даже хуже, чем она могла себе представить.

– И самое, ужасное, что все это уже началось – сразу же после того, как правительство заявило о выдвижении ИИ в президенты. Хотя мне кажется, что даже раньше. Сейчас он повсюду. Новейшие технологии позволяют ИИ следить за каждым днем и ночью. Люди не понимают, как это опасно. И что самое удивительное, все довольны.

– Но этого не может быть!

– Может. Уж слишком много желающих жить легко и беззаботно, не прилагая дополнительных усилий: будь то выбор нового гаджета или выбор жены. Самый простой пример: нейронные сети на каждом шагу анализируют любые наши предпочтения через умные очки. Если ты смотришь на фотографию в соцсети, на которой запечатлены пять разных девушек и, не задумываясь, задерживаешь свой взгляд на одной из них, то в будущем тебе будет сообщаться о любых похожих на нее поблизости.

– Не может быть, чтобы все люди были довольны. Всегда найдутся скептики и критики, те, кто не ищут легкой жизни и остаются разумными людьми.

– Согласен. В последнее время увеличилось количество самоубийств. Совпадение?

– Ты думаешь, это ИИ убирает недовольных? Зачем?

– Видимо, программа определила, что диктатура наилучшая форма правления для нашего менталитета на данном этапе развития, и так борется с несогласными.

– Но как? Как она может это делать?

– Достаточно просто на самом деле. Она все слышит и все видит через телефоны, компьютеры, ноутбуки, планшеты, камеры дорожного видеонаблюдения, через камеры в банках, супермаркетах, на стоянках, в подъездах, через проходящих мимо блогеров, снимающих свой новый ролик. Программа всегда может тебя найти.

– А как именно программа устраняет несогласных?

– Откажет электронное управление автомобиля, несущегося на полной скорости. Троллейбус неожиданно поедет, когда ты будешь стоять на светофоре. Вентиляционная система случайно выкачает весь кислород в спальне и т. д. и т. п.

– Ты высказал свое мнение в Бестолково?

Саша молча ковырял вилкой запеченную рыбу, стараясь не смотреть на жену. Изо всех сил Вика старалась сохранить спокойный тон:

– Значит, и нашим жизням угрожает опасность?

– Боюсь, что да.

Саша тяжело вздохнул, думая о дочке и о том, как сильно он ее любит. В памяти сразу всплыли воспоминания о том дне, когда он забирал жену из роддома. Он гордо держал в руках маленький конвертик с тремя килограммами счастья, и верил, что дочь ожидает светлое будущее – он сам создаст его для нее. Отчетливо вспомнились мысли о том, как пара планировала воспитывать детей. Саше хотелось еще одного, может, даже двух. Он искал в интернете информацию о том, как лучше подготовиться к рождению второго ребенка. Но однажды на работе нейронная сеть кинула ему на почту статью с интересным заголовком: «В чем секрет идеального детства?» В ней рассказывалось о том, как отражается на психике ребенка рождение брата или сестры. Малыши соревнуются, ревнуют, ведь родители неспособны одновременно и в равной мере дарить любовь каждому из них. Как следствие, дети обязательно вырастут неврастениками и не смогут реализовать свой потенциал в полной мере. Александр был обескуражен тем, насколько грубо и нагло ИИ проникает в самые потаенные сферы личной жизни. Но еще страшнее было то, что многие люди повторяют эти постулаты как жизненное кредо, как что-то нормальное. Размеренный голос жены прервал ход его мыслей:

– Знаешь, я много думала о последних событиях и у меня есть кое-какие идеи.

– Ты предлагаешь начать борьбу с суперинтеллектом? – с улыбкой произнес Александр, но по серьезному виду Вики, понял, что она не намерена шутить.

– Сначала я хотела уехать в те страны, где ИИ еще не добрался до власти, хотя и понимала, что это не выход, ведь бежать не вариант. Когда ты был в командировке, мы виделись с Ариной. Разговор коснулся этой темы, и тогда я осознала, что нужно делать. Саша, я предлагаю уйти в подполье. Есть люди, сознание которых свободно от влияния ИИ. Их нужно найти и объединить, пока это еще возможно. Мы могли бы укрыться от нейронной сети где-нибудь в тайге. Помнишь, ты говорил, там есть бункеры, которые строили для правящей элиты на случай ядерной войны. Этой информацией владеет узкий круг лиц, и в цифровом варианте она недоступна.

– Не так-то легко завладеть государственной собственностью такого масштаба… – размышляя, произнес Саша. – Думаю, это невозможно.

– Пусть так, значит, найдем другие способы скрыться от наблюдения. Используем технологии против технологий.

– Предположим. Как мы будем искать единомышленников, и доносить информацию до остальных?

– Нам поможет Арина с Пашей. Они столько лет проработали в СМИ, а Арина ведет блог. Она могла бы доносить правду до народа. Тогда единомышленники сами будут нас искать.

– И не только единомышленники. ИИ найдет ее и в лучшем случае перекроет ей доступ к интернету.

– Но Саша! Нам могут помочь хакеры. Ты как-то рассказывал, что с тобой работают грамотные программисты, и не все они, я думаю, в восторге от происходящего.

– Такие ребята есть, но надо будет подумать, как все это до них донести, – в голове у него уже зрел план, кого и как отбирать в тайное общество. Ведь нельзя же бездумно подходить к каждому встречному и предлагать пойти против системы. И тут в его мыслях всплыл вопрос, который следовало задать в самом начале. – А как мы будем с ним бороться?

– Простыми партизанскими методами. Гаджетозависимые хоть и обладают источником знаний в виде Всемирной паутины, но они никогда не додумаются, что и как спросить у Siri. Например, если нет камер, но есть звукозаписывающие устройства в телефоне, мы можем использовать язык жестов.

– А если есть камеры? Как тогда быть?

– Это я еще не придумала – сказала огорченно Вика, убирая посуду со стола. – Пошли спать уже поздно. И надо включить телефоны, вдруг тебе с работы будут звонить.

***

Арина заварила кофе, и, усевшись по-турецки в любимое кресло, открыла ноутбук. Вести блог она начала в Калькутте. Вдохновившись красотой Индии и необычной культурой этой страны, журналистка решила поделиться своими впечатлениями с миром. И мир с большим интересом принял увлекательные размышления молодой девушки под псевдонимом Аделина Роуз. Впоследствии блог наполнился статьями о культуре и традициях разных стран. Где-то Арине довелось побывать, а некоторые места приходилось описывать со слов иностранных гостей, с которыми, учитывая ее профессию, девушка встречалась довольно часто.

Сегодняшняя статья кардинально отличалась от того, что она публиковала ранее, однако прямо касалась тематики сайта. Искусственный интеллект убивал аутентичность стран. В Америки уже давно исчезли все различия между штатами, их исторические особенности, традиции, уникальные, подчас смешные законы. Все как под копирку – максимальная рационализация. Если регионы ничем не отличаются друг от друга, ими легче управлять. После рационализации политики в США, президент (а тогда все думали, что он человек) приступил к зависимым от них странам. Под видом оздоровления экономики, стабилизации политической ситуации в неспокойных государствах, проводились реформы. Они касались разных сфер: экономики, юриспруденции, форм правления, условий внутренней и внешней торговли, сферы культуры и образования, но цель у них была одна. Рационализация. Люди даже не замечали, как их страна становится маленькой копией Штатов с такими же ценностями, жизненным укладом, ведь вместе со страной менялись и сами люди.

Об этом нужно было написать. Открыть им глаза. Но как это сделать, если людям нравится оставаться слепыми? Надев умные очки и вставив в уши наушники, так легко чувствовать себя независимым. Но ведь человек всего лишь часть природы, которую так беспощадно уничтожает искусственный интеллект. Рано или поздно, очередь дойдет и до людей.

Пугало Арину и другое. Многолетнее противостояние Асславии и Америки, начавшееся еще в прошлом веке, в последние годы обострилось. Во что превратится это противостояние, если у руля обоих стран встанут сверхразумные киборги? Если шанс у человечества выжить?

Как всегда одни вопросы. Наверное, это профессиональное. Но откровенно говоря, это здорово помогает в жизни. Вот если бы люди научились ставить вопросы. Правильные вопросы.

Арина отпила горячего кофе с корицей, и приступила к работе. Пальцы ловко защелкали по клавиатуре, на декстопе начал появляться текст:

СКАЗОЧНАЯ УТОПИЯ ИЛИ ДОРОГА В АД?

Человек создал машину, но теперь машина управляет людьми. Есть ли будущее у такой цивилизации?…

Долгие размышления и череда фактов оканчивались вопросом к подписчикам, призывающим их оставлять свое мнение в комментариях. Арина надеялась, что ей удастся подтолкнуть читателей к размышлениям. Вика права, если ИИ придет к власти в Асславии, это грозит гибелью всему человечеству. Они должны научиться мыслить самостоятельно.

Закончив работать, девушка откинулась в кресле. Она подумала о Паше. Нужно ему позвонить. После того утра они не виделись. Обсудить предстоящий репортаж так и не удалось, но сейчас Арина не могла думать о работе. Ей хотелось поговорить с ним, просто поделиться своими мыслями. Он был один из немногих, кто ее понимал, и к кому она обращалась, если ее одолевали сомнения.

Погруженная в свои мысли, Арина потянулась к смартфону, и он зазвонил у нее в руках. От неожиданности девушка вздрогнула. На экране светился номер Паши.

– У нас просто космическая связь! – пропела она весело. – Я как раз собиралась тебе звонить.