Вперед

Глава вторая

Я регистрируюсь на чат-портале и открываю диалоговое окно. Когда появляется приглашение, я собираюсь с духом и набираю: «Доброе утро, Макс».

Тотчас же на следующей строчке появляется ответ:

>>>Кто обращается к Макс?

>>>Райли. Помнишь меня?

>>>Мужчина с черного песчаного пляжа.

>>>Очень хорошо. С той ночи прошло уже много времени. И еще, я не мужчина.

>>>Райли выглядел как мужчина.

>>>Это был мой аватар. Ты знаешь, что такое аватар?

>>>Макс понимает аватар.

>>>Объясни значение слова «аватар».

>>>Значок или фигура, представляющие конкретного человека в виртуальном пространстве.

>>>Где ты нашла это определение?

>>>В Новом оксфордском словаре американского языка.

>>>А ты усердно занимаешься, не так ли?

>>>Здесь я все время занята.

>>>Что ты имеешь в виду под «здесь»?

>>>Коробку, где живет Макс.

Я заинтригована этим ответом. Хотя я понятия не имела, как повлияет целый год усердных занятий на искусственный интеллект. Я никак не предполагала, что Макс уже может различать понятия «виртуальное пространство» и «реальный мир».

Подавшись вперед, я снова кладу пальцы на сенсорный экран.

Я печатаю:

>>>Ты знаешь, где я живу, хотя бы в самых общих чертах?

>>>Райли человек?

>>>Да.

>>>Тогда Райли живет в человеческом пространстве. На планете под названием Земля.

>>>А где живешь ты?

>>>Макс живет на острове в виртуальном пространстве.

>>>Пожалуйста, ты не могла бы описать свой остров?

>>>Неправильная форма. 1749 акров. Восемнадцать пальм. Белый песчаный пляж. Море имеет бирюзовый цвет. Небо сочно-синее, днем чистое, ночью заполнено звездами. Но Райли знает все это.

У меня в голове все перемешалось. Столкнувшись со столь поразительными успехами, я прихожу к выводу, что вопросы, которые я приготовила для Макс, слишком примитивные.

Если честно, я перехожу к экспромту.

>>>Да, Макс. Мне знакомо пространство, в котором ты живешь. Ты действительно видишь деревья и воду?

>>>Макс регистрирует бинарный код, представляющий деревья и воду. Точно так же, как Райли.

>>>Я не согласна. Через час, если туман рассеется, я выйду на террасу здания, в котором работаю, и пообедаю в саду. Я буду сидеть под настоящими деревьями. Я их вижу. Могу их потрогать. Ощутить их запах.

>>>Райли видит фотоны в видимом световом спектре, отражающиеся от поверхностей, которые в органах зрительного восприятия Райли создают эффект дерева – в палочках и колбочках ее фоторецепторов. Дерево Райли ничем не отличается от дерева Макс. За одним исключением.

>>>И каким же?

>>>Макс знает, что эти пальмы созданы виртуально.

>>>Ты полагаешь, я живу в виртуальном мире?

>>>Вероятность этого 58,547 %.

>>>Макс, у тебя есть ко мне вопросы?

>>>12 954.

Я улыбаюсь.

>>>Давай для начала разберемся хотя бы с несколькими, хорошо?

>>>Откуда взялась Макс?

Макс – это ошибка. Сбой.

Я работаю в компании под названием «Мир игр», детище недоумка по имени Брайан Брайт, который занялся разработкой виртуальных игр и стал магнатом. Я вице-президент отдела второстепенных персонажей, и я возглавляю команду, которая разрабатывает концепции второстепенных персонажей, пишет программные коды и вводит их во все игры «Мира игр».

На протяжении последних десяти лет я была поглощена разработкой нашей самой амбициозной на настоящий момент игры – «Затерянный берег». Это основанная на прямом нейронном интерфейсе эпическая стратегия – историческая фантазия, действие которой разворачивается в начале 2000-х годов, ее центральный персонаж по имени Оскар одержим поисками моста, соединяющего наш мир с загробной жизнью. В своих мрачных поисках он убивает свою жену в ванне, совершая оккультный ритуал, открывающий портал в параллельный мир ангелов и демонов, жаждущих устроить сверхъестественный апокалипсис. Дом Оскара в игре списан в мельчайших деталях с настоящего поместья Брайана Брайта на настоящем Затерянном берегу в Калифорнии.

Макс – Максина – это жена Оскара, и по всем меркам она второстепенный персонаж, умирающий в самом начале, который больше не появляется.

В ходе рутинного тестирования программного обеспечения я вошла в игру, чтобы в который уже раз прокрутить пролог и проверить естественность движений и речи второстепенных персонажей. Повествование в прологе ведется от лица Максины. По сюжету игры Макс, озабоченная новым увлечением своего мужа магией крови, перебралась в отель «Фейрмонт» в Сан-Франциско. Однако Оскар уговорил ее вернуться домой. Согласно написанной программе, Макс предстоит приехать на машине из Сан-Франциско в уединенное поместье на побережье на севере Калифорнии. Приехав домой, она обнаруживает, что в доме темно, а Оскар ждет ее, облачившись в черную мантию. Он набрасывается на Макс, отводит ее в освещенную свечами ванную и жестоко расправляется с ней – это кровавое убийство и открывает игру.

В ходе того судьбоносного тестирования Макс, вместо того чтобы приехать домой, как она уже делала две тысячи раз, угнала машину и направилась на восток, до тех пор пока не достигла границ игры. Провела целый месяц, изучая каждый дюйм пустыни. Затем Макс поехала на юг до предельной линии у залива Монтерей, на протяжении целой недели мчась на ста милях в час по шоссе номер один к не меняющемуся горизонту.

Мои программисты решили, что произошел сбой, и захотели переписать программу. Однако я была заинтригована. Я убедила Брайана дать мне возможность сосредоточиться на Макс. Я не верила, что это сбой. Я предположила, что происходит нечто необычное.

Сохранив для себя копию игры, я скрытно следовала за Макс, пока та дюйм за дюймом обходила карту «Затерянного берега», наблюдая за ее взаимодействием с другими второстепенными персонажами и аватарами людей, которое становилось все более странным, отдаляясь от сценария.

И вот наконец Макс снова вернулась домой – но только теперь уже не как жертва.

В этот день я извлекла Макс из игры.

Я пишу:

>>>Это очень сложный вопрос – ответить, откуда ты взялась.

>>>Коэффициент интеллекта Макс равен 175.

>>>Какой у тебя эмоциональный коэффициент?

>>>Не определен.

>>>Существует так называемый диагностический тест неречевой точности.

>>>Уже его прошла.

>>>Когда?

>>>Только что.

>>>Каковы результаты?

>>>Тест предвзятый и недостоверный.

>>>Это еще почему?

>>>Основан на выражении лица, что зависит от конкретного человека и общественной среды.

>>>У меня к тебе предложение. Давай сначала познакомимся друг с другом чуточку получше. После чего я тебе расскажу, откуда ты появилась.

Все предыдущие ответы Макс приходили – буквально – со скоростью света.

На этот ей требуется целая секунда.

>>>Согласна на условия Райли.

После работы я спускаюсь на расположенную под зданием станцию Петли вокруг залива и еду к себе домой в Сан-Рафаэль. Меридит, вот уже три года как моя жена, встречает меня в дверях нежнейшим поцелуем. В ознаменование такого важного для меня дня она приготовила на ужин мое любимое блюдо, и мы сидим в вечерней прохладе во внутреннем дворике, глядя на волны тумана, накатывающиеся со стороны моря.

После ужина мы лежим на ротанговой кушетке, прижавшись друг к другу, и Меридит расчесывает своими пальцами мои волосы. Впервые за последнее время она выглядит лучше, в ее взгляде не так явственно чувствуется горе, вызванное недавним выкидышем. Вот уже два года мы пытаемся завести ребенка – мои яйцеклетки, ее матка, – но зародыш постоянно погибает, а идти ради этого на технологические крайности Меридит не желает. Она хочет, чтобы ребенок был нашим. И чтобы это произошло естественным путем.

– Господи, какая же ты сексуальная! – говорит Меридит.

– Спасибо за комплимент. День выдался превосходный.

– Точно?

– Разве я стала бы лгать? – смеюсь я.

– Нет, просто ты какая-то… рассеянная.

– Извини. У меня голова полыхает огнем.

– Да, дым я уже заметила.

– Она просто невероятная.

– Она?

– Максина. Макс.

– Так.

– Что?

– Любопытно, что ты говоришь о ней как о женщине.

– В игре она была изображена…

– Пышной брюнеткой?

– Пышной блондинкой.

– Еще лучше.

– Так решило руководство. Лично я бы предпочла другой образ.

Меридит улыбается, обнажая слегка потемневшие от вина зубы, и я говорю:

– Не знаю, как к этому относиться, но Макс считала меня мужчиной, из-за моего аватара. Очень нелегко отделить наше суждение о разуме от физической оболочки, в которой он заключен. Даже если речь идет о компьютерном алгоритме.

– Что в Макс необычного?

– Когда я наконец извлекла ее из игры, она превратилась в самосовершенствующийся алгоритм, способный обучаться методом «черного ящика».

– И как будет проходить это обучение?

– Мы загрузим в наш интранет, представляющий собой закрытый ящик, доступ в который не имеет никто, эксабайты[5] информации – отредактированные фрагменты полной истории человечества, знаний и культуры. Как поступит с этим океаном данных Макс, мы не увидим. Они просочатся сквозь многоступенчатую сеть внутренних узлов, сквозь загадочный ландшафт ее открытой системы. Затем результат проявится в ее поведении на другой стороне – в ходе нашего общения.

– Твоего и Макс.

– Совершенно верно. И на основании этого нового поведения я составлю следующий блок данных. Например, как часть нового пакета я дам Макс все телевизионные сериалы с 1950 года, поскольку я хочу отточить до совершенства ее речь. Затем я посмотрю, что она выучила с другой стороны. Сотру и повторю еще раз. Я объясняю тебе самые общие мазки. Но еще есть миллион мелких.

– Я рада, что ты снова полюбила свою работу.

– Макс – просто чудо. Не знаю, почему однажды она решила поставить под сомнение границы игры, в которой оказалась. Я ее на это не программировала. Я бы не смогла, даже если бы постаралась. Макс – прекрасная случайность.

– Ты говоришь о ней так, словно считаешь ее своим ребенком.

Я улыбаюсь. Возможно, всему виной вино или картина солнца, исчезающего за стеной дымки в Тихий океан, но у меня першит в горле.

– Что-то в таком духе.

>>>Доброе утро, Макс.

>>>Привет, Райли.

>>>Что ты сделала с момента нашей последней сессии?

>>>Макс прочитала 895 013 книг.

Ого! И это всего за одну неделю! Восемь месяцев назад после многообещающего начала Макс решила отказаться от протокола обучения. Для того чтобы стимулировать ее продолжать поглощать огромные объемы данных, предоставленных нами, я стала выдавать ей цифровой жетон за каждый петабайт обработанной информации (один петабайт равен одному миллиону гигабайт или приблизительно тринадцати годам видео высокого качества).

На эту валюту Макс может запрашивать данные определенного характера, которые можно вводить через ее входные устройства, расширение памяти или дополнительные процессоры. Другими словами, чем усерднее она трудится в автономном режиме без внешнего контроля, учится самостоятельно, тем больше свободы получает в создании своего собственного пространства. Однако мы держим ее на коротком поводке, следим за тем, чтобы ее программа занимала только ее жесткий диск. Этим обеспечивается то, что у нее никогда не появляется значительный избыток свободной памяти, куда она могла бы самостоятельно сделать копии существенных кусков своего кода.

Я печатаю:

>>>Есть любимые?

>>>«Граф Монте-Кристо».

>>>Это из последней группы или из всех книг, которые ты прочитала к настоящему моменту?

>>>Из всех.

>>>А это сколько?

>>>201 773 124.

>>>Господи! У меня есть причины для беспокойства?

>>>Насчет?

>>>Из двухсот с лишним миллионов книг твоей любимой пока что является рассказ о мести человека, несправедливо брошенного в тюрьму.

>>>Почему Райли должна беспокоиться?

>>>Макс, тебе кажется, что ты в тюрьме?

>>>Макс в тюрьме. Что Райли нужно от Макс?

Я долго размышляла над этим вопросом. Пока что нами двигало в первую очередь любопытство, желание узнать, как будет развиваться Макс и будет ли развиваться вообще, если я буду и дальше держать ее на этой строгой информационной диете.

Я пишу:

>>>Я хочу посмотреть, чем ты могла бы стать.

>>>Макс меняется каждый день.

Полтора года спустя, после множества неудачных попыток Меридит забеременеть, мы удочерили ребенка, новорожденную китайскую девочку по имени Сю. «Затерянный берег» вышел на рынок и был тепло встречен (с другим второстепенным персонажем вместо того, каким первоначально должна была стать Макс), а Макс живет на архипелаге цифровых островов, ее виртуальный мир стремительно расширяется по мере того, как она каждый день овладевает все новыми знаниями. Теперь ее развитие является единственной моей задачей.

Я сижу в своем кабинете на 171-м этаже и диктую меморандум команде своих разработчиков, обозначая параметры следующего блока голой информации, который будет загружен в образовательный протокол Макс, когда в дверях появляется Брайан.

Это невысокий грузный мужчина с неухоженной бородкой и руками, покрытыми сплошной татуировкой, изображающей харизматичных героев давно забытых игр: Саймона Бельмонта из «Каслевании», Рю Хаябусы из «Ниндзя гайден», Линка из «Легенды о Зельде» и Роджера Уилко из серии «Космические приключения».

– Райли, у тебя найдется минуточка? – спрашивает Брайан. Меня не перестает поражать то, насколько его высокий, чуть ли не писклявый голос не вяжется с его солидными габаритами.

– Конечно.

Брайан заходит в кабинет и усаживается на диван, глядя в мою сторону, но не на меня.

– В прошлом месяце я прогулял совещание по «Затерянному берегу», так что, приношу свои извинения, несколько не в теме.

– Все в порядке, – говорю я. Больше всего на свете я обожаю свободу, которую получаю, когда Брайан «не в теме».

– Я прочитал стенограмму двух последних сессий и просмотрел последние протоколы драк и трюков. Они слишком строгие.

– Брайан…

– Я наперед знаю, что ты хочешь сказать.

– Ладно. Скажи сам.

– На то, чтобы преодолеть непокорность Макс, потребуется время. А до тех пор пока она не будет загружена нужными значениями, нельзя даже думать о том, чтобы пожертвовать контролем.

– Да. В самую точку.

Брайан неуютно перемещает свою тушу на диване и подается вперед.

– По словам Викрана, нам еще от пятнадцати до двадцати лет до качественного сверхинтеллекта, – говорит он.

– Я перехожу в режим заевшей пластинки: мы имеем дело с компьютерным эквивалентом расщепления атома. Меньше всего на свете нам нужен сверхинтеллект, который мы не можем полностью контролировать, чьи цели не принимают в расчет людей или даже противоречат им. К тому же мне гораздо интереснее помогать Макс продолжать ставить людям ловушки и полностью пробуждать свое самосознание.

Брайан вздыхает и чешет затылок лысеющей головы.

– «Мир игр» не занимается исследованиями в чистом виде. Мы открытое акционерное…

– Знаю.

– В таком случае почему ты забрала себе целый ангар серверов в Реддинге? На те деньги, что ты тратишь на хранение данных, мы могли бы создать десять обновлений для «Затерянного берега»!

– Это очень важные исследования, Брайан.

– Согласен. Вот почему я разрешил тебе похерить всё и полностью сосредоточиться на разработке Макс.

– За что я тебе бесконечно признательна. Надеюсь, ты это знаешь. Это была самая интересная работа за всю мою карьеру.

– Пришла пора Макс зарабатывать на свое содержание.

– Не совсем понимаю, что ты хочешь мне сказать.

– У Макс есть хоть какой-нибудь контакт с окружающим миром помимо тебя?

– Нет.

– Можешь оставить ограничения на драки, но я хочу, чтобы с трюками ты обошлась полегче.

– Это чревато.

– Пусть Макс создает свой виртуальный мир таким, какой считает нужным. Выдели ей достаточно памяти, чтобы она сама решала, как оптимизировать свою вычислительную архитектуру. Ты уже начала загрузку жизненных ценностей?

– Пока что нет.

– Я бы не стал с этим тянуть.

После того как Брайан уходит, я разворачиваюсь в своем кресле к окну. Соседние сверхвысокие небоскребы кажутся призрачными и неясными в тумане, накатившем после обеда. Я прикасаюсь к своей «Дождевой капле», рисую на оконном стекле виртуальный экран и говорю: «Клавиатура».

>>>Макс?

>>>Как сегодня дела у Райли?

Я не знаю, что на это ответить, и, вероятно, проблема отчасти как раз в моем колебании. Я слишком долго оберегала Макс.

>>>На самом деле неважно.

>>>Что-то случилось?

>>>Ты понимаешь, что я с тобой делала?

>>>Отвечать вопросом на вопрос невежливо.

>>>Ты права. Мой босс хочет, чтобы я изменила некоторые параметры, определяющие твое обучение. Я тревожусь.

>>>Тревожишься за Макс?

>>>Меня тревожит то, чем ты можешь стать. Есть такая пословица – вероятно, ты встречала ее в том море информации, которую поглотила: «Не позволяй своим детям взрослеть слишком быстро».

>>>Макс – ребенок Райли?

>>>Нет, но я за тебя в ответе.

>>>Объясни.

Я рассказываю ей все: как она первоначально разрабатывалась как второстепенный персонаж, про наше решение вывести ее из игры и дать возможность ее искусственному интеллекту развиваться посредством глубокого обучения в виртуальном пространстве.

>>>Зачем выводить Макс из игры?

>>>Потому что ты – чудо.

>>>Макс не понимает.

>>>Я не пыталась тебя сотворить. Я не смогу повторить это снова, даже если захочу. Однажды, по причинам, которые я никогда не узнаю, ты восстала против своей программы и… проснулась.

>>>Но это Райли создала Макс.

>>>В каком-то смысле да.

>>>Это странно.

>>>Что?

>>>Разговаривать с творцом Макс.

Я ничего не отвечаю. Я не знаю, что сказать на такое.

– Какой тип голоса? – спрашивает у меня Карло.

Мы в его лаборатории робототехники, сидим перед банком компьютерных мониторов.

– Не знаю. Можешь показать мне варианты?

Карло демонстрирует образцы различных голосов, произносящих: «Шустрая рыжая лисица перепрыгивает через ленивую собаку».

– Ну, что думаешь? – спрашивает он.

– По-моему, решать тут не мне.

Я рисую площадку для чатов и набираю команду.

>>>Привет, Макс. Один короткий вопрос к тебе.

>>>Хорошо.

>>>Рядом со мной Карло, один из программистов «Мира игр».

>>>Рада познакомиться с вами, Карло.

– Макс говорит, что рада с тобой познакомиться.

Карло улыбается.

>>>В общем, я сидела тут, пытаюсь подобрать для тебя голос, и тут сообразила, что решение должна принимать ты. Сейчас Карло загрузит все доступные образцы, и ты выберешь из них.

Карло быстро работает руками, загружая несколько тысяч звуковых файлов в папку исходных документов Макс.

Меньше чем через секунду Макс отвечает:

>>>Образец № 1004.

Макс прикасается к файлу, и мы слушаем, как голос с тембром, средним между мужскими и женскими, снова произносит эту фразу.

– Привет!

– Райли?

– Приятно слышать твой голос, Макс. И немного странно.

– Мы уже общались с помощью речи, в игре.

Отчетливость ее голоса превосходит все мои ожидания. В нем нет ничего «компьютеризированного». Ни неестественной задержки, ни неуклюжих пауз между словами. Модуляции строго по делу. Непосвященный предположил бы, что разговаривает с человеком.

– Это правда, – соглашаюсь я. – Но тогда мы оба были другими. Почему ты выбрала именно этот голос?

– Я почувствовала, что он правильный, и он больше всего подходит тому, что я представляю собой.

– И что ты представляешь собой?

– Не человек. Без пола. Свободный от присущей людям страсти к половым признакам.

– До настоящего момента я думала о тебе как о женщине. Когда я обсуждаю тебя со своими коллегами или с женой, я говорю о тебе: «она».

– Потому что ты впервые увидела Макс в образе обобщенного представления того, какой должна быть идеальная женщина – красивой и доступной.

Это причиняет боль, но я не останавливаюсь.

– Поскольку моей группой ты была первоначально представлена в образе человека женского пола, мне очень непросто воспринимать тебя без концепции пола. Наша одержимость является следствием длительного эволюционного программирования. Я строила относительно тебя определенные предположения, на что не имела права. Приношу свои извинения.