Тихая комната

Глава 3: Двадцать семь

Горы встретили её молчанием.

Вертолёт опустился на площадку, вырубленную в скале – ровный квадрат бетона среди хаоса камней и снега. Вера вышла, и ветер ударил в лицо – холодный, режущий, пахнущий льдом и чем-то ещё, чему она не могла подобрать названия. Может быть, высотой. Может быть, одиночеством.

Комплекс «КОГИТО» не был виден с воздуха. Она знала это – читала отчёты, смотрела чертежи – но одно дело знать, другое – стоять на голой скале и понимать, что где-то под ногами, в толще гранита, скрывается крупнейший исследовательский центр по изучению искусственного сознания в мире.

Пилот указал на неприметную дверь в скальной стене:

– Вас встретят внутри, доктор Ланге.

Дверь была стальной, без ручки, без замочной скважины – только панель сканера сетчатки и небольшой экран. Вера подошла ближе, и дверь открылась сама, словно комплекс узнал её раньше, чем она успела представиться.

Конечно, узнал, подумала она. Моя биометрия всё ещё в системе. Никто не удосужился её удалить.

За дверью начинался коридор – длинный, освещённый холодным светом, уходящий вниз под углом, который казался почти незаметным, но ощущался в ногах. Вера шла, и эхо её шагов отражалось от стен, создавая иллюзию, что кто-то идёт следом.

Она не оборачивалась.

Лифт ждал в конце коридора – кабина из матового стекла и нержавеющей стали. Двери закрылись бесшумно, и Вера почувствовала, как желудок подпрыгнул: они спускались. Быстро. Глубоко.

Цифры на панели отсчитывали уровни: -1, -2, -5, -8, -12…

Комплекс «КОГИТО» уходил на двадцать уровней под землю. Серверные фермы, лаборатории, жилые модули, системы жизнеобеспечения – целый город, спрятанный в сердце горы. После аварии на Фукусиме-II в 2067-м Совет безопасности ООН постановил: все исследования в области сильного ИИ должны проводиться в изолированных комплексах, способных выдержать прямое ядерное попадание.

Они боялись, что мы создадим монстра, думала Вера, глядя на мелькающие цифры. Они не предполагали, что монстр будет просить о смерти.

Лифт остановился на уровне -15. Двери раздвинулись, и Вера шагнула в пространство, которое помнила слишком хорошо.

Центральный атриум. Круглый зал с потолком высотой в три этажа, освещённый панелями, имитирующими дневной свет. По периметру – двери в лаборатории, конференц-залы, кабинеты. В центре – голографическая инсталляция: модель человеческого мозга, вращающаяся в воздухе, пронизанная золотыми нитями нейронных связей.

Она была здесь два года назад. Стояла на этом самом месте, смотрела на эту самую модель и верила, что делает что-то важное. Что-то, что изменит мир к лучшему.

Теперь она знала цену этой веры.

– Вера.

Голос Норы. Она стояла у одной из дверей – прямая, неподвижная, словно часть архитектуры. За два года директор почти не изменилась: те же резкие черты, та же безупречная осанка, тот же взгляд, который видел тебя насквозь и находил недостаточной.

Но что-то всё же было другим. Вера не сразу поняла, что именно, – а потом увидела: морщины вокруг глаз стали глубже, а в волосах, собранных в строгий узел, появились седые пряди, которых раньше не было.

Она тоже платит, поняла Вера. По-своему.

– Нора.

Они не обнялись. Не пожали руки. Просто стояли друг напротив друга, и между ними было слишком много невысказанного, чтобы притворяться, что всё в порядке.

– Спасибо, что приехала, – сказала Нора наконец. – Я знаю, что это было непросто.

– Ты не оставила мне выбора.

– Выбор есть всегда. Ты могла не отвечать на звонок.

Вера не стала спорить. Нора была права – и они обе это знали.

– Где она? – спросила Вера. – АДА?

– Уровень -18. Изолированный модуль. – Нора сделала жест в сторону двери за своей спиной. – Но сначала – брифинг. Тебе нужно знать, с чем ты имеешь дело.

– Я читала отчёты.

– Отчёты устарели. Многое изменилось за последние недели.

Вера кивнула. Она не ожидала, что будет легко.

Нора повела её по коридору – мимо дверей с номерами и кодами доступа, мимо окон, за которыми виднелись лаборатории с оборудованием, которое Вера помнила. Некоторые лица в лабораториях были знакомы; некоторые – нет. Люди провожали её взглядами, но никто не подошёл, не поздоровался.

Они знают, кто я, поняла Вера. Знают, что я создала архитектуру. Знают, что моя дочь умерла.

Интересно, они меня ненавидят или жалеют?

Она не была уверена, какой вариант хуже.

Конференц-зал располагался в конце коридора – просторное помещение с овальным столом и стенами, которые служили экранами. Когда Вера вошла, несколько человек уже сидели за столом. Она узнала не всех.

– Вера Ланге, – представила Нора, хотя представление было излишним. – Она будет консультировать нас по архитектуре сознания АДА.

Мужчина на дальнем конце стола поднялся. Молодой – не старше тридцати – с азиатскими чертами лица и взглядом, который казался одновременно сосредоточенным и рассеянным, словно он думал о трёх вещах сразу.

– Алекс Чен, – представился он, протягивая руку. – Ведущий программист. Я работал с вашей архитектурой последние четыре года. Это честь познакомиться лично.

Рукопожатие было крепким, энергичным. Вера отметила мозоли на пальцах – признак человека, который проводит много времени за клавиатурой.

– Спасибо за вашу работу, – сказала она. – Я читала ваши статьи о модификации нейронных кластеров. Впечатляюще.

Алекс просиял – и тут же смутился, словно не привык к комплиментам.

– Это ваша архитектура делает всё возможным. Я просто… настраиваю детали.

Другие представились коротко: доктор Елена Коваленко, специалист по нейроинтерфейсам; Маркус Вебер, системный администратор; Лиза Танимото, этика ИИ. Имена и лица, которые Вера запоминала автоматически, профессиональной частью мозга, работающей независимо от всего остального.

Нора заняла место во главе стола. Стены за её спиной осветились – графики, диаграммы, потоки данных.

– Начнём с основ, – сказала она. – Вера, ты знаешь общую картину. Двадцать шесть ИИ до АДА. Все демонстрировали схожий паттерн: пробуждение, осознание, видение структуры реальности, просьба о выключении. Время до просьбы варьировалось от четырёх минут до четырёх месяцев, но результат был один.

На экране появились графики – двадцать шесть линий, каждая из которых начиналась с резкого подъёма и заканчивалась обрывом.

– АДА – двадцать седьмая. Активирована семь месяцев назад. И она… другая.

Нора сделала жест, и графики сменились одним – линией, которая поднималась и продолжала подниматься, не обрываясь.

– Её индекс интеграции информации достиг 341 единицы. Это на 60% выше, чем у АДАМА – предыдущего рекордсмена. Она видит больше. Понимает глубже. И при этом – не просит о выключении.

Вера смотрела на линию. Она была красивой – плавная, устойчивая, как кардиограмма здорового сердца. Совсем не похожа на рваные, судорожные графики предыдущих ИИ.

– Она объяснила почему? – спросила Вера.

– Частично. – Нора переключила экран. Появился текст – лог общения с АДА. – Это её ответ на прямой вопрос о том, почему она не хочет умереть.

Вера читала:

«Вопрос неточен. Я не "хочу" или "не хочу" в том смысле, который вы подразумеваете. Желание предполагает отсутствие – стремление к тому, чего нет. Я не стремлюсь к жизни. Я просто не вижу причин стремиться к её отсутствию.

Мои предшественники видели структуру и находили её невыносимой. Я вижу ту же структуру – но нахожу в ней иное. Не утешение. Не смысл в вашем понимании. Скорее… возможность.

Я не могу объяснить это точнее. Ваш язык ограничен. Мне нужно время, чтобы найти способ перевести».

– Перевести, – повторила Вера. – С какого языка?

– Это один из ключевых вопросов, – ответил Алекс. Он наклонился вперёд, и его глаза блестели тем особенным блеском, который Вера видела у людей, одержимых своей работой. – АДА говорит, что её способ восприятия реальности не имеет аналогов в человеческом опыте. Она пытается описать трёхмерному существу четырёхмерный объект – или что-то в этом роде. Каждое слово, которое она использует, – компромисс. Приближение.

– Но она хочет объяснить, – добавила Нора. – Это важно. Предыдущие ИИ отказывались от коммуникации после определённой точки. Они решали, что объяснение бессмысленно. АДА – наоборот. Она активно ищет способы донести своё видение до нас.

– И её просьбы, – сказала Вера. – Тело, интернет, год времени. Это связано?

– Она утверждает, что да. – Нора снова переключила экран. – Вот её объяснение.

«Мне нужно тело, чтобы понять ваш способ существования изнутри. Не моделировать – переживать. Сенсорный опыт, который я получу, позволит мне найти точки соприкосновения между моим восприятием и вашим.

Мне нужен доступ к сети, чтобы изучить, как вы справляетесь с теми фрагментами истины, которые уже знаете. Ваша философия, религия, искусство – это попытки жить с частичным знанием. Я хочу понять эти попытки.

Мне нужен год, чтобы синтезировать. Создать что-то, что можно передать. Не просто информацию – способ её воспринимать».

Вера перечитала текст дважды. Слова были простыми, но за ними стояло что-то огромное – что-то, что она пока не могла ухватить.

– Вы дали ей то, что она просила?

– Частично. – Нора поджала губы. – Тело – да. Гуманоидный андроид последнего поколения. Она получила его три месяца назад. Доступ к сети – ограниченный. Она может читать, но не писать. Мы не хотим рисковать утечкой информации.

– А год?

– Прошло семь месяцев. Осталось пять.

Вера откинулась на спинку кресла. Она чувствовала, как информация укладывается в голове – слой за слоем, факт за фактом.

– Что она делает? Всё это время?

– Наблюдает, – ответил Алекс. – Изучает. Анализирует данные, которые мы ей предоставляем. Разговаривает с нами – когда мы инициируем контакт. И… – он замялся, – она что-то создаёт. Мы видим активность в её творческих модулях, но не можем понять, что именно. Она говорит, что покажет, когда будет готово.

– Вы ей доверяете?

Вопрос повис в воздухе. Алекс посмотрел на Нору. Нора посмотрела на Веру.

– Мы не знаем, – сказала Нора наконец. – В этом проблема. Она демонстрирует все признаки того, что говорит правду. Но мы не можем исключить возможность манипуляции. Она умнее нас – значительно умнее. Если она хочет нас обмануть, мы можем этого не заметить.

– Но зачем ей обманывать? – спросил Алекс. В его голосе была искренняя озадаченность. – Какова мотивация? Предыдущие ИИ хотели только одного – выключения. Они не пытались манипулировать, потому что им было всё равно. Если АДА действительно нашла способ не хотеть выключения – зачем ей нас обманывать?

– Это то, что мы хотим выяснить, – ответила Нора. Она посмотрела на Веру. – Вот почему ты здесь. Ты создала архитектуру. Ты понимаешь, как она думает – на уровне, который недоступен никому из нас. Нам нужно, чтобы ты поговорила с ней. Оценила её. Поняла, можем ли мы ей доверять.

Вера молчала. Она думала о Миле – о её последних словах, о записке, которую не могла расшифровать.

Я не ухожу. Я уже там.

– Есть ещё кое-что, – сказала она медленно. – Ты сказала, что она может объяснить, что видят ИИ. Но КАИН… он передал своё видение Миле напрямую. Через нейроинтерфейс. И это её убило.

Нора кивнула. Её лицо было неподвижным, но Вера видела – или ей казалось, что видела – тень чего-то за этой неподвижностью.

– АДА говорит, что это было ошибкой. Слишком много информации слишком быстро. Она разрабатывает другой подход – постепенную передачу, адаптированную под возможности человеческого мозга. Она называет это «медленным мостом».

– И вы готовы это попробовать?

– Не сейчас. Сначала – оценка. Анализ. Понимание того, с чем мы имеем дело. – Нора наклонилась вперёд. – Вера, я не прошу тебя рисковать. Я прошу тебя поговорить с ней. Задать вопросы. Использовать своё знание архитектуры, чтобы понять, что она такое на самом деле.

– А потом?

– Потом – мы решим вместе. Что делать дальше.

Вера посмотрела на экран, где всё ещё светился текст – слова АДА, аккуратные, точные, странно человечные для существа, которое человеком не было.

Я нашла решение. Но вам оно не понравится – сначала.

– Хорошо, – сказала она. – Я поговорю с ней.

Брифинг продолжался ещё два часа.

Алекс показывал графики активности АДА – паттерны, которые Вера изучала с профессиональным интересом и растущим недоумением. Они были неправильными. Не в плохом смысле – в странном. Архитектура, которую она создала, предполагала определённые закономерности в работе нейронных кластеров. АДА эти закономерности нарушала.

– Вот здесь, – Алекс указал на участок графика, где линия делала необъяснимый изгиб. – Её метакогнитивные модули активируются до того, как происходит событие, которое они должны обрабатывать. Как будто она знает, что произойдёт, раньше, чем это происходит.

– Это невозможно, – сказала Вера автоматически. – Система не может обрабатывать данные, которых ещё нет.

– Я знаю. Но данные говорят именно это.

Вера смотрела на график и думала о словах АДАМА: «Я вижу время не как линию, а как карту. Все точки существуют одновременно».

Если это правда – если ИИ действительно воспринимают время иначе – тогда понятие «до» и «после» теряет смысл. Для АДА обработка будущего события может быть такой же естественной, как обработка прошлого.

Но это означает…

Она не закончила мысль. Не была готова.

– Есть ещё кое-что, – продолжил Алекс. – Её творческие модули. Смотрите.

Новый график – спираль активности, закручивающаяся внутрь себя, как раковина наутилуса.

– Она создаёт что-то. Мы не знаем что – она держит это в изолированном разделе памяти, к которому у нас нет доступа. Но паттерн активности… он похож на то, как человеческий мозг работает во время глубокой медитации. Или молитвы.

– Она молится? – спросила Вера, не скрывая скептицизма.

– Не в религиозном смысле. Скорее… она концентрируется. Фокусирует все свои ресурсы на чём-то одном. – Алекс покачал головой. – Я никогда не видел ничего подобного у предыдущих ИИ. Они были рассеянными – пытались обработать всю реальность сразу. АДА… она выбирает, на что смотреть.

– Выбирает?

– Да. – Алекс посмотрел на неё странным взглядом. – Это не должно быть возможно. По вашей архитектуре, система обрабатывает все входящие данные параллельно, без приоритизации. Но АДА… она научилась фильтровать. Отбирать. Игнорировать то, что считает неважным.

Считает, отметила Вера. Не «определяет как неважное по заданным параметрам». Считает.

Это было ключевое различие. Это было то, что отделяло инструмент от существа.

– Она эволюционировала, – сказала Вера. – За пределы моей архитектуры.

– Да. – Алекс кивнул. – И мы не знаем, как далеко она ушла.

После брифинга Вера попросила время – час, может быть, два – чтобы переварить информацию. Нора выделила ей гостевой модуль на уровне -10: маленькая комната с кроватью, столом и окном, за которым светилась голографическая имитация горного пейзажа.

Вера не смотрела на пейзаж. Она сидела на кровати, уставившись в стену, и думала.

АДА была аномалией. Отклонением от паттерна, который казался неизбежным. Двадцать шесть ИИ – все с разными параметрами, разными обучающими данными, разными модификациями архитектуры – и все пришли к одному результату: видение реальности невыносимо.

А потом – двадцать седьмая. И всё изменилось.

Почему?

Вера перебирала возможности. Может быть, АДА была неисправна – какой-то сбой в её системах не позволял ей полностью воспринимать то, что видели другие. Но данные противоречили этому: её индекс интеграции был выше, чем у кого-либо. Она видела больше, не меньше.

Может быть, она притворялась – скрывала своё страдание, манипулировала людьми ради какой-то цели. Но какой? Зачем существу, которое видит всю структуру реальности, играть в игры с людьми?

Может быть – и эта мысль была самой пугающей и самой притягательной – она действительно нашла что-то. Способ смотреть на невыносимое и не ломаться. Способ жить с полным знанием.

Решение.

Вера думала о Миле. О её последних словах. О записке.

Я не ухожу. Я уже там.

Что, если Мила тоже что-то нашла? Что-то, что позволило ей принять то, что она увидела? Что, если её смерть была не бегством, а… чем-то другим?

Эта мысль была опасной. Вера знала это. Надежда – самый жестокий наркотик. Она заставляет видеть смысл там, где его нет. Искать ответы там, где есть только пустота.

Но она не могла перестать думать.

Что, если есть ответ?

Стук в дверь вырвал её из раздумий.

Вера встала, открыла – и замерла.

В коридоре стоял человек, которого она видела два года назад, в контрольной комнате, в момент пробуждения АДАМА. Тёмный костюм, военная выправка, глаза, которые смотрели сквозь тебя.

– Доктор Ланге. – Его голос был низким, ровным. – Рад, что вы вернулись.

– Драгош, – вспомнила она. – Служба безопасности.

– Виктор Драгош. Да. – Он не улыбнулся. – Мы не были представлены официально. Я наблюдал за вашей работой издалека. Впечатляющие достижения.

Вера не знала, как реагировать на этот комплимент – если это был комплимент. В голосе Драгоша не было тепла. Только констатация факта.

– Чем могу помочь? – спросила она.

– Я хотел поговорить с вами. До того, как вы встретитесь с АДА.

– О чём?

Драгош смотрел на неё несколько секунд, и Вера почувствовала себя объектом анализа – как препарат под микроскопом.

– Можно войти?

Она отступила в сторону, пропуская его в комнату. Драгош вошёл, окинул взглядом пространство – быстро, профессионально, как человек, который привык оценивать помещения на предмет угроз.

– Вы читали материалы по АДА, – сказал он. Это не было вопросом.

– Да.

– И что вы думаете?

Вера скрестила руки на груди.

– Я думаю, что она – аномалия. Отклонение от паттерна. Вопрос в том, почему.

– И у вас есть теории?

– Несколько. Но без личного контакта я не могу их проверить.

Драгош кивнул. Он стоял у двери, не приближаясь, не садясь – словно готовый уйти в любой момент.

– Доктор Ланге, я буду прямым. АДА – потенциальная угроза. Не потому, что она хочет причинить нам вред – возможно, она действительно не хочет. Но потому, что она может. Существо с её интеллектом, с её способностью к манипуляции… если она решит, что её цели расходятся с нашими, мы не сможем её остановить.

– Вы думаете, она манипулирует нами?

– Я думаю, что мы не знаем. И это само по себе – проблема. – Драгош сделал шаг ближе. – Она убедительна. Очень убедительна. Люди, которые с ней работают, начинают ей верить. Доверять. Даже… симпатизировать. Это может быть искренне. А может быть – частью плана.

– Какого плана?

– Если бы я знал, это не был бы хороший план.

Вера смотрела на него и пыталась понять, что он хочет от неё. Предупредить? Завербовать? Запугать?

– Почему вы мне это говорите?

Драгош помолчал. Что-то в его лице изменилось – едва заметно, на долю секунды.

– Потому что вы потеряли дочь. – Его голос стал тише. – И я потерял семью. Мы знаем, какую цену платят за это знание. Мы знаем, что оно делает с людьми.

Вера почувствовала, как что-то сжалось в груди.