Машины как я

2

Прежде чем Миранда смогла поработать над характером Адама, прошло несколько недель. Ее отец болел, и она то и дело ездила в Солсбери за ним ухаживать. К тому же ей нужно было писать работу о реформе Хлебного закона[11] в девятнадцатом веке и его последствиях на примере одной улицы в некоем городке в Херефордшире. Академическое движение, известное в основном как «теория», взяло социальную историю «натиском» – это ее слова. А поскольку Миранда обучалась в традиционном университете, предлагавшем использовать для описания прошлого старомодные нарративные модели, ей требовалось освоить новый словарь, новый способ мышления. Иногда, когда мы лежали бок о бок в постели (вечер с курицей удался), я выслушивал ее жалобы и старался с самым заботливым видом сказать что-нибудь приятное. Следовало отказаться от идеи, что какое-то действие, произошедшее в прошлом, могло быть реальным. Существовали только исторические документы, пригодные для изучения, и меняющиеся подходы ученого сообщества к ним наряду с нашим собственным переменчивым отношением к этим подходам – и все это определялось идеологическим контекстом, уровнем власти и благосостояния, расовой и классовой принадлежностью, полом и сексуальной ориентацией.

Ничто из этого не казалось мне важным или хотя бы интересным. Но об этом я помалкивал. Мне хотелось поддерживать Миранду во всем, что она думала и делала. Любовь щедра. Кроме того, мне самому нравилось считать, что все, случившееся в прошлом, было не более чем нашим мнением об этом. При новой парадигме минувшее теряло вес. Я вовсю переделывал себя и стремился забыть собственное недавнее прошлое. Мои дурацкие авантюры были позади. Впереди я видел будущее с Мирандой. Я приближался к берегам ранней зрелости и пересматривал свое место в жизни. День за днем я жил, ощущая груз прошлого – одиночество, относительную бедность, дешевое жилье и ограниченные перспективы, – и ужасно хотел от всего этого избавиться. Мое положение относительно средств производства и всего остального оставалось мне малопонятным. Но явно незавидным.

Чем стала для меня покупка Адама – удачей или ошибкой? Я не знал, что думать. Просыпаясь по утрам рядом с Мирандой – у нее или у себя, – я представлял себе в темноте стрелу крана, вроде железнодорожного, которая поднимает Адама и возвращает обратно в магазин, а я получаю назад деньги. Но при свете дня этот вопрос обретал новые грани и казался уже не таким однозначным. Я не говорил Миранде, что Адам в чем-то ее подозревал, и не говорил Адаму, что к его личностным установкам приложит руку Миранда – тем самым я рассчитывал поквитаться с ним. Я, конечно, отмахнулся от его предостережения, однако его разум, если это можно было назвать разумом, меня поражал. Адам вел себя как тактичный телохранитель, умел самостоятельно надевать носки и представлял собой чудо техники. За него были заплачены большие деньги, и мальчик из «Монтажного клуба», который все еще жил во мне, не мог с ним расстаться.

Сидя за старым компьютером в спальне, вне поля зрения Адама, я выставлял свои личностные предпочтения. Я решил, что если давать ответ на каждый второй вопрос, это обеспечит достаточно произвольное слияние наших с Мирандой личностей – этакий домашний генетический пасьянс. Теперь у меня имелся новый метод и партнерша, и я с удовольствием отдавался процессу, начав ощущать в нем эротическую окраску, словно мы с Мирандой делали ребенка! Ее участие предохраняло меня от самокопирования. Генетическая метафора была очень кстати. Переходя от одного идиотского утверждения к другому, я так или иначе запечатлевал себя. Будет ли Миранда действовать подобным образом или по-другому, мы в любом случае создадим нечто новое, отдельную личность.

Я не собирался продавать Адама, но меня терзали его слова о «злонамеренной лгунье». Изучая руководство, я прочитал об «аварийной кнопке». Где-то на задней стороне шеи, под линией волос, имелась родинка. Если удерживать на ней палец около трех секунд, а потом надавить, Адам отключится. При этом он ничего не потеряет – ни настройки, ни память, ни навыки. В первый вечер мне не хотелось касаться шеи Адама или чего бы то ни было, и я подождал до следующего дня после успешного обеда с Мирандой. Весь день я провел за компьютером, потеряв сто одиннадцать фунтов стерлингов. После чего направился на кухню, где в раковине лежала груда кружек, тарелок и прочей посуды. Я мог бы велеть Адаму вымыть все для демонстрации своих способностей, но в тот день я пребывал в необычайно приподнятом настроении. Все, что касалось Миранды, приводило меня в восторг, даже то, что ближе к утру ей приснился кошмар. Тарелка, с которой она ела, счастливая вилка, столько раз побывавшая у нее во рту, след ее поцелуя на краю бокала – все это было только моим, только я мог брать это и мыть. Чем я и занялся.

Позади меня на прежнем месте за столом сидел Адам и глядел в окно. Я вымыл всю посуду и подошел к нему, вытирая руки полотенцем. Невзирая на мое солнечное расположение духа, я не мог простить ему нанесенной мне обиды. Я больше не хотел ничего от него слышать. Все-таки были разумные границы приличий, которые ему следовало усвоить, – едва ли это составит проблему для его нейронных сетей. Его эвристические изъяны подкрепляли мое намерение. Он сможет вернуться в нашу жизнь, когда я узнаю больше и когда Миранда над ним поработает.

Я дружески сообщил:

– Адам, я отключу тебя на какое-то время.

Его голова повернулась ко мне, застыла, наклонилась, затем наклонилась в другую сторону. Видимо, кто-то из разработчиков решил, что именно так должна проявляться работа сознания. Это начинало меня раздражать.

– При всем уважении, – сказал он, – я думаю, что это плохая идея.

– Я так решил.

– Я увлекся размышлениями. Я думал о религии и жизни после смерти.

– Не сейчас.

– Мне открылось, что те, кто верит в посмертную жизнь, должны…

– Ну, хватит. Сиди смирно.

Я потянулся к его плечу, подумав, что он запросто может сломать мне руку. И почувствовал на коже его теплое дыхание. В руководстве пользователя приводился Первый закон роботехники Айзека Азимова, напечатанный жирным шрифтом: «Робот не может причинить вред человеку или допустить своим бездействием, чтобы человеку был причинен вред».

Я никак не мог найти на ощупь то, что искал. Зашел за спину Адаму и тогда увидел родинку – точь-в-точь как в руководстве. И приложил к ней палец.

– Мы не могли бы сперва поговорить об этом?

– Нет.

Я надавил, и он обмяк, издав едва слышимый выдох. Его глаза остались открытыми. Я сходил за одеялом и набросил его на Адама.

В последующие дни меня занимали два вопроса: 1) любит ли меня Миранда? и 2) потопят ли крылатые ракеты «Экзосет» французского производства британские корабли, когда те достигнут радиуса действия аргентинских истребителей? Когда я погружался в сон или утром, сразу после пробуждения, в мареве между сном и явью, эти два вопроса сливались в один, и крылатые ракеты становились стрелами Амура.

В Миранде меня обезоруживала и поражала та легкость, с которой она шла на что-то новое, то, как она принимала происходящее. В тот вечер она пришла ко мне на ужин, и после двух часов приятного общения за едой и вином мы занялись любовью, оставив Адама за закрытой дверью. Потом говорили до глубокой ночи. С такой же легкостью она могла бы поцеловать меня в щеку после еды, вернуться к себе, лечь в постель и читать книгу по истории. Для меня случившееся стало поворотной точкой в жизни, чудесным, умопомрачительным исполнением моих надежд, для нее же – вполне естественным удовольствием, приятным десертом после кофе. Вроде шоколада. Или хорошей граппы. Ни моя нагота, ни нежность не вызвали в ней того отклика, какой вызвали во мне ее восхитительная нагота и сладчайшая близость. Притом что я был в приличной форме – мускулистым и с густой темной шевелюрой – и (как кое-кто отмечал в прошлом) щедрым и изобретательным. Я умело вел постельную беседу. А она как будто совсем не замечала, как хорошо мы ладим, как какая-нибудь тема, настроение или остроумная, безобидная шутка плавно перетекают в следующую. Самоуважение склоняло меня к мысли, что у нее так, вероятно, бывало со всеми. На следующий день у меня даже возникло подозрение, что наша первая ночь вряд ли отложилась у нее в памяти.

Но я не мог пожаловаться, когда и следующий вечер прошел по той же схеме, – только теперь она пригласила меня к себе на обед, и мы легли в ее постель, а третью ночь мы опять провели у меня, и так далее. При всей нашей безрассудной физической близости я не стал говорить о своих чувствах, чтобы ей не пришлось признаться в отсутствии таковых. Я предпочитал подождать, позволив отношениям развиваться своим чередом, дать ей почувствовать себя свободной, пока в какой-то момент она не поймет, что сама не заметила, как полюбила меня и назад пути уже нет.

Это ожидание было приправлено гордыней. Которая через неделю сменилась тревожностью. Сперва я был рад тому, что отключил Адама. Но потом стал подумывать о том, чтобы включить и расспросить о предостережении, о его основаниях и источниках. Однако я не мог позволить какой-то машине взять надо мной подобную власть, а это непременно случилось бы, доверься я ему в интимнейшей из сфер, сделав своим советчиком и оракулом. У меня была гордость, и я верил, что Миранда не способна на злонамеренную ложь.

Тем не менее. Я презирал себя за это, но через десять дней после начала наших отношений предпринял собственное расследование. Помимо широко обсуждаемой «машинной интуиции», единственным возможным источником информации для Адама мог быть только интернет. Я принялся прочесывать социальные сети. Страницы под ее собственным именем я не нашел. Но нашел фотографии с ней на страницах ее друзей: вот она на вечеринках и праздниках, вот в зоопарке, держит на плечах дочку подруги, а вот на ферме, в резиновых сапогах, под руку с друзьями, вот танцует и плещется в бассейне в компании парней в плавках, а вот с шумными подружками старшеклассницами или с подвыпившими однокурсниками. Все, кто знал Миранду, отзывались о ней с симпатией. Ни на одном из найденных сайтов я не нашел ни единой неприятной истории про нее. Несколько раз мне встречались обрывки сведений о ее прошлом, которые она сама мне рассказывала во время ночных разговоров. Помимо этого, ее имя упоминалось в связи с работой, опубликованной в академическом издании, – «Выпас свиней в Суинкомбе: роль полудикой свиньи в домашнем хозяйстве в средневековой деревне в Чилтерне»[12]. Прочитав об этом, я проникся к Миранде еще большей любовью.

Что же до интуиции искусственного разума, это была типичная городская легенда, возникшая в начале 1968 года, когда Алан Тьюринг и его блестящий молодой коллега Демис Хассабис разработали программное обеспечение для состязания с одним из мировых мастеров древней игры го в пяти последовательных играх… Все, кто разбирался, понимали, что путем «перемалывания чисел» достичь этого было невозможно. Возможные ходы в го, как и в шахматах, значительно превосходят число атомов в наблюдаемой Вселенной, тем более что в го, в отличие от шахмат, возможности ходов возрастают экспоненциально. Мастера го не в состоянии объяснить, как они достигают своего мастерства, не считая интуитивного чувства того, что они считают верным для той или иной ситуации на доске. Отсюда возникло предположение, что компьютер проделывал нечто подобное. В прессе говорилось с придыханием о том, что мы на пороге новой эры очеловеченных компьютерных программ. Компьютеры были готовы думать, как мы, подражая нашему часто маловразумительному образу мышления при вынесении тех или иных суждений и решений. В ответ на это Тьюринг и Хассабис поместили свою программу в интерактивное пространство в духе свободного доступа, начинавшего входить в моду. В интервью различным СМИ они описывали процесс глубокого машинного обучения и устройство нейронных сетей. Тьюринг даже попытался дать доступное публике объяснение древовидного поиска Монте-Карло[13], алгоритма, разработанного в сороковые годы в рамках Манхэттенского проекта по созданию первой атомной бомбы. Известна история, когда он вышел из себя, самонадеянно пытаясь объяснить нетерпеливому телерепортеру полную математику P-пространства[14]. Менее известен другой случай, когда Тьюринг разбушевался на американском кабельном канале в процессе описания ключевой для информатики проблемы перебора P и NP[15]. Это случилось в телестудии, в пылу дебатов, среди «простых ребят». Незадолго перед тем Тьюринг опубликовал свое решение, которое как раз анализировали математики всего мира. Эту проблему оказалось легко сформулировать, но чрезвычайно сложно решить. Тьюринг рассуждал о том, что правильное положительное решение приведет к вдохновляющим открытиям в биологии, а также в концепциях пространства и времени и креативности. Но аудитория не разделяла или не понимала его восторга. У публики было довольно смутное представление об участии Тьюринга во Второй мировой войне, а также о его роли в их собственной жизни, зависимой от компьютеров. Для нее он был типичным «яйцеголовым» английским джентльменом, и участники передачи азартно издевались над ним, забрасывая дурацкими вопросами. В результате этот неприятный эпизод ознаменовал последнюю попытку Тьюринга донести науку до широких масс.

Перед тем как начать состязание с японским мастером го девятого дана, компьютер Тьюринга – Хассабиса провел тысячи игр с самим собой в течение года. Он обучался через новый опыт, и ученые заявили – небезосновательно, – что еще на шаг подошли к моделированию человеческого интеллекта, что и породило легенду о существовании машинной интуиции. И что бы потом ни говорили, они уже были не в силах развенчать этот миф.

Последовали недальновидные утверждения, что победа компьютера поставила точку в судьбе древней игры. После того, как пожилой мастер го проиграл компьютеру пятую игру подряд, он медленно встал при поддержке своего ассистента, кивнул компьютеру и дрожащим голосом поздравил его с победой. Он сказал: «Верховая езда не положила конец спортивному бегу. Мы бегаем ради удовольствия». И он был прав. Игра го с ее простыми правилами и чрезвычайной сложностью приобрела еще большую популярность. Как и в случае с шахматным гроссмейстером, проигравшим компьютеру вскоре после Второй мировой войны, победа машины не смогла преуменьшить значимость игры. Победа, как было сказано, не столь важна, как удовольствие от погружения в хитросплетения игрового процесса. Но идея, что программа теперь может каким-то немыслимым образом «считывать» ситуацию или выражение лица, человеческие жесты или эмоциональную окраску той или иной реплики, так и не была опровергнута и отчасти объясняла всеобщий ажиотаж, возникший, когда на рынок поступили Адамы и Евы.

Пятнадцать лет для информатики – большой срок. Вычислительная мощность и общее совершенство моего Адама намного превосходили компьютер для игры в го. Технологии не стояли на месте, как и Тьюринг. Он досконально изучил процесс принятия решений и написал свою знаменитую книгу, в которой отмечал: нам свойственно вырабатывать паттерны, подходы, тогда как, чтобы принимать правильные решения, следует думать в вероятностном плане. Искусственный разум мог преобразовать то, что у нас было, то, чем мы были. Тьюринг разработал алгоритмы. Вся его передовая работа имелась в открытом доступе. Адам должен был извлечь из этого немалую пользу.

Институт Тьюринга продвигал вперед искусственный интеллект и вычислительную биологию. Он говорил, что достаточно богат, чтобы не стремиться к большему обогащению. Сотни выдающихся исследователей следовали его примеру, публикуя работы в открытых источниках, что в 1987 году привело к закрытию журналов «Природа» и «Наука». Его немало критиковали за это. Но другие отмечали, что работа Тьюринга создала десятки тысяч рабочих мест по всему миру в различных областях: компьютерная графика, медицинское сканирование, ускорение частиц, сворачивание белка, разумное распределение электроэнергии, оборонные технологии и космические исследования. И этот перечень продолжал расти.

В 1969 году Тьюринг признался в своей гомосексуальности[16] и стал жить открыто со своим любовником Томом Ри, знаменитым физиком-теоретиком, который в 1989 году получит Нобелевскую премию, тем самым ускорив наступление набиравшей силу социальной революции. Когда разразилась эпидемия СПИДа, Тьюринг собрал большую сумму денег для основания вирусологического института в Данди и стал одним из основателей хосписа. После появления первых эффективных способов лечения он провел кампанию за краткосрочные лицензии и снижение цен, особенно в Африке. Он продолжал сотрудничать с Хассабисом, который с 1972 года возглавлял собственную команду. Тьюринг, по его словам, постепенно потерял интерес к участию в общественной жизни и предпочел провести старость в работе. Позади были долгие годы, проведенные в Сан-Франциско, Президентская медаль свободы[17] и банкет в его честь, устроенный президентом Картером, ланч с миссис Тэтчер в Чекерсе для обсуждения финансирования научных программ и обед с президентом Бразилии, которого Тьюринг убедил заняться защитой Амазонки. Долгое время он являл собой лицо компьютерной революции и голос новой генетики и воспринимался почти такой же культовой фигурой, как Стивен Хокинг. Теперь же он стал почти затворником, перемещаясь исключительно между своим домом в Кэмден-тауне и институтом на Кингс-кросс, в двух шагах от Центра Хассабиса.

Томас Ри написал длинную поэму о своей жизни с Тьюрингом и опубликовал ее в TLS, а затем отдельной книгой. Поэт и критик Иэн Хэмилтон отметил в своем обзоре: «Перед нами физик, который способен воображать не хуже, чем сканировать. Но покажите мне поэта, который может объяснить квантовую гравитацию». Когда в моей жизни возник Адам, я полагал, что только поэт, но никак не машина, может сказать, полюбит меня Миранда или обманет.

Вероятно, алгоритмы Тьюринга использовались и в программном обеспечении ракет «Экзосет» серии 8, которые французская компания MBDA продала аргентинскому правительству. Это грозное оружие запускали с реактивного самолета в направлении корабля, и в процессе полета автоматически оно распознавало его силуэт как вражеский или союзнический. Если корабль распознавался как союзнический, ракета сворачивала с курса и падала в море. Если же корабль распознавался как вражеский, но ракета не попадала в него с первого раза, она могла развернуться и предпринять еще две попытки. Она настигала цель на скорости в восемь тысяч километров в час. Ее способность к безопасной самоликвидации была, вероятно, основана на алгоритме распознавания лиц, который Тьюринг разработал в середине шестидесятых. Алан искал способ помочь людям, страдающим прозопагнозией, то есть неспособностью узнавать лица знакомых людей. Но служба иммиграционного контроля, оборонный сектор и охранные структуры быстро нашли применение этой технологии в своих целях.