Жизнь с роботами. Что нужно знать каждому беспокоящемуся человеку

Большинство людей не считают автоматы вроде миниатюрного монаха Турриано роботами. Один из аргументов против данного подхода заключается в том, что они совершают только механические действия: у них нет гибкости и их, выражаясь современным языком, нельзя программировать. Но работы швейцарского часовщика Пьера Жаке-Дроз второй половины XVIII века демонстрируют, что это не совсем так. В Музее искусства и истории в Невшателе, Швейцария, хранятся три автомата, созданные этим мастером: Музыкант, Художник и Писатель. Это куклы с очень сложными механизмами. Музыкант состоит из 2000 деталей, Художник из 2500, а Писатель из Музыкант играет на миниатюрной клавиатуре, причем действительно нажимает на клавиши: в устройстве не используется никакой музыкальный автомат. Его голова и глаза следят за движениями пальцев, а грудь имитирует дыхание. Художник рисует четыре разных картинки, периодически дуя на карандаш, чтобы стряхнуть пыль. В каком-то смысле он предвосхищает современную механическую руку, рисующую портреты[20]. Писатель, – самый сложный из трех автоматов и, с современной точки зрения, самый любопытный. Он может написать любую строку из сорока знаков. В его механизме есть колесико, на котором можно выставить эти сорок знаков, так что он – программируемый, хоть и через материальную часть, а не программное обеспечение. Высота Писателя чуть больше метра; пишет он гусиным пером, которое периодически макает в чернила и стряхивает излишки. Как у Музыканта, его глаза следуют за текстом. Он обладает многими возможностями современных роботов, но приводится в действие заводным механизмом. Его вполне можно назвать «первым роботом», если забыть о том, что он не взаимодействует со средой и не принимает решений в реальном времени. Все его действия определены заранее.

Технологический базис для современных роботов был заложен в период начала Индустриальной революции. Идею программируемых машин придумал не Жаке-Дроз, но она, по сути, уже витала в воздухе, особенно это касалось производства текстиля. Спрос на новые ткани – дамаст со сложными узорами – привел к возникновению станков, управляемых бумажной лентой[21]. Жаккардовый станок, в котором с помощью перфокарт дамастский узор переносился на ткань, возник спустя всего несколько десятилетий после тех автоматов. Первые ткацкие фабрики также появились в 1780-х, а вот механизация металлообработки заняла больше времени.

Если оглянуться на историю создания механических человекоподобных фигур, рассматривая при этом только Западную Европу, станет ясно, что эта идея увлекает нас уже добрых два с половиной тысячелетия. Тот факт, что они выглядят как люди и исполняют некоторые человеческие функции, но людьми в то же время не являются, беспокоит нас примерно столько же. А нынешние роботы появились, заметим, лишь в последнее столетие этой долгой истории.

Перепрыгнем через 150 лет от Жаке-Дроза, в 1921-й, и мы окажемся в совершенно другом мире. Электричество является основным источником энергии; товары массово производятся на фабриках, уровень автоматизации которых постоянно растет. Мировая война превратилась в механизированное убийство миллионов молодых мужчин. В Европе больше нет рабов, нет крестьян, прикрепленных к земле, хоть их освобождение до сих пор живо в памяти. Парламентская демократия сменила иерархические общества, где доминировали аристократы: тяжелый труд больше не выполняется даром, и за него надо платить. Кроме того, это пост-дарвиновский мир, где идея о «выживании сильнейшего» привела к возникновению евгеники и так называемого научного расизма, при котором одни народы считаются более совершенными, чем другие. Более того, дарвинизм развенчал представление о человеке как о венце творения и напомнил всем, что многие виды на земле уже исчезли. Как ребенок, впервые узнавший о смерти, мы начинаем понимать, что и наш вид может исчезнуть тоже.

Почему 1921-й? Если мифы о Пигмалионе и Талосе являются отправной точкой в развитии доисторических роботов, то в 1921 появляется современный миф робототехники – пьеса Карела Чапека «Россумские Универсальные Роботы», или «Р. У. Р.», где впервые используется само это слово, робот. Пьеса написана на чешском, так что робот происходит от чешского robota, то есть труд. Роботы приходят на смену рабам и крепостным крестьянам, которые больше не согласны заниматься тяжелым трудом. Забавно, что роботы Чапека – отнюдь не машины из металла. Это искусственные организмы, созданные путем биологической инженерии, которые, соответственно, более близки к тому, что мы ныне называем андроидами. Они похожи скорей на статую Пигмалиона, а не на Талоса.

1. Это автомат работы другого швейцарского механика XVIII века, Анри Майярде. Известный как «Художник-Писатель», он может рисовать три картинки и писать три стихотворения, используя встроенную память. Ныне хранится в Институте Франклина в Филадельфии.

В «Р.У.Р.» описаны все наши современные тревоги. Роботы производятся тысячами, и стоимость рабочей силы падает, ведь им вообще не надо платить. Вся мировая экономика зависит от них. Естественно, роботы поднимают бунт, как периодически и рабы, и избавляются от всех людей за исключением одного инженера. Большинство роботов не могут размножаться, а формула, по которой они создавались, при беспорядках пропадает, но две особо совершенные модели влюбляются друг в друга и в конце пьесы робот-женщина оказывается беременна. Иными словами, они отбирают у людей работу, а потом избавляются от человечества вообще: две главные темы, которые беспокоят нас сейчас.

Как свидетельствуют истории со статуей Пигмалиона и Талосом, мифы, конечно, проливают свет на человеческие страхи, но могут сильно отличаться от реальности. Одна из целей этой книги – показать, насколько расходятся между собой нынешние достижения робототехники и истории, которые рассказывают о роботах. Многие из них ложатся в основу фильмов. Действительно, мало кто в реальности взаимодействует с роботами, и потому люди составляют представление об их возможностях, основываясь на кино. Автономные роботы до сих пор не используются как замена живым актерам. Причина в отсутствии способностей, недостаточной надежности и необходимости постоянно держать на площадке специальных техников, которые знают, как их перепрограммировать.

Самый очевидный способ заставить «робота» играть в кино – посадить внутрь него человека. Эта идея восходит еще к эпохе автоматов и XVIII веку. В 1770 году появился уникальный новый автомат, так называемый Турок, или Механический Турок, он же «Шахматный Автомат». Турок поражал людей своими шахматными способностями и великолепно играл даже против сильных соперников. Он справлялся с задачей о «Ходе коня», то есть проводил коня по всей доске так, что он оказывался по одному разу на каждой клетке. Во время европейских туров Турка многие подозревали, что тут не обошлось без мошенничества. Турок сыграл даже против Бенджамина Франклина и Наполеона. Однако, когда секрет Турка в 1850-м был раскрыт, он быстро пропал из поля зрения. Оказалось, что внутри у него сидел человек, управлявший автоматом. Оператор прятался в специальном помещении, двери которого открывали, когда демонстрировали зрителям устройство фигуры.

В ранних кинофильмах проблема решалась точно так же: человека сажали внутрь робота. Иногда это было видно, как у Железного Дровосека из «Волшебника страны Оз» или его потомка, C-3PO в «Звездных войнах». Иногда нет. Еще один знаменитый робот из того же фильма, R2-D2, был очень небольшим, и актер требовался невысокого роста. Рост Кенни Бейкера, который сыграл эту роль, был всего 112 см. Робби, робот из классической картины «Запретная планета» (1956), – тоже человек в специальном костюме.

С приходом компьютерных технологий появилась возможность убрать из роботов оператора-человека. Соответственно, и выглядеть роботы стали интересней. В фильме «Короткое замыкание» (1986), типичном для того периода, роботом Джонни-5 удаленно управляет человек в телеметрическом костюме. Этот костюм передавал все движения актера на робота, который их повторял. Для ближних планов роботом управляли, как марионеткой, с помощью металлических штырей, прикрепленных к нему, которые держал кукловод.

Когда фильмы стали цифровыми, создание спецэффектов тоже упростилось. Теперь актер мог играть робота напрямую, зачастую также в костюме, а далее его движения переносились на графическое изображение, которое заменяло актера в финальном варианте сцены. Это означало, что роботу вообще не обязательно существовать как физическому объекту и он может выполнять движения, невозможные в реальном мире. Минус в том, что люди по фильмам составляют представление о возможностях роботов, хотя на самом деле между этим представлением и их реальными возможностями нет никакой связи. Однако фильмы привлекают зрителей, и убедительность спецэффектов заставляет их поверить: то, что им показывают, – реальность.

Думаете, что видео, выпускаемые исследователями и компаниями по робототехнике, которые демонстрируют свои изделия, более достоверны? Их можно увидеть в Интернете, где они быстро набирают популярность. В этом случае вы видите физически существующих роботов, совершающих определенные действия в реальном мире. И все равно у этих видео имеются серьезные изъяны. Первое – вы видите только короткий отрывок из действий робота и не знаете, сколько потребовалось времени, чтобы их добиться. Конечно, компания не станет принижать собственные достижения, показывая, как что-то пошло не так. Большинство исследователей тоже этого не делают, хотя в сети можно видеть неудачные кадры с финала соревнований роботов 2015 года под эгидой Управления перспективных исследований США, где роботы спотыкаются и падают[22].

Вторая проблема с такими видео – редактирование, благодаря которому робот кажется более ловким, чем на самом деле. Для того чтобы переключить робота с одного вида деятельности на другой, требуется немало работы, но она остается за кадром. Наконец, видео редко показывают, действует ли робот автономно. Часто им удаленно управляет оператор. Эта практика так широко распространилась, что у исследователей появилось для нее название, «Волшебник Оз»[23]. Речь идет о сцене, где Дороти со спутниками добирается до Изумрудного Города и ее принимает Волшебник – жуткое невидимое существо с громоподобным голосом. Но тут собачка Дороти, Тото, бросается в угол зала, за занавес, и обнаруживает там человечка средних лет, который управляет Волшебником с помощью рычагов.

Для того чтобы придать роботам те или иные способности, уходит немало времени и усилий. Подход «Волшебника Оз» позволяет исследователям понять, как робот будет взаимодействовать с людьми с помощью удаленного оператора, прежде чем вкладывать усилия в разработку его автономной деятельности, избежав при этом многих ошибок. Поскольку на ответы участников исследований влияет то, считают ли они робота автономным, оператор на испытаниях от них спрятан. Этика исследований требует, чтобы после окончания эксперимента участникам сообщали, был он действительно автономным или нет, но на видео все это вырезается.

В других случаях робот повторяет задание, которое уже проработал заранее, элемент за элементом. Например, его проводят по зданию, и он составляет его карту. Дальше его отпускают в самостоятельный путь, но по заранее пройденному маршруту и в среде, которая относительно статична[24]. Это совсем не то же самое, что автономная навигация. Интересно здесь то, что зрители фильмов и видео верят в способности роботов, за которыми наблюдают. Может быть, кино не рассказывает нам про реальных роботов, зато оно многое говорит о наших собственных опасениях и страхах.

Фильмы про роботов в наше время посвящены в основном тому, что технологии, которые мы изобретаем, могут обернуться против нас. Это называется «комплексом Франкенштейна». Как статуя Пигмалиона, монстр обретает собственную жизнь, хотя его и создал человек, правда, в данном случае ученый, а не скульптор. Если статуя Пигмалиона – прекрасная девушка, которая становится скульптору сексуальным партнером, то чудовище Франкенштейна – мужского пола, оно уродливо, и никакого партнера у него нет, отчего оно и ненавидит весь человеческий род. Оно обладает сверхчеловеческой силой, и, хоть является не роботом, а скорее андроидом, его наклонности убийцы и враждебность к создателю стали лейтмотивом для многих историй о роботах. Комплекс Франкенштейна прослеживается и в других произведениях, не касающихся роботов. Вспомним хотя бы компьютер HAL в «Космической Одиссее 2001», один из многих суперкомпьютеров с подобным поведением.

Эта идея так укоренилась в западной культуре, что ее можно счесть универсальной. Однако в Японии ни компьютеры, ни роботов не считают потенциальными монстрами Франкенштейна[25]. Почему же наша культура рассматривает их так, а другие – нет? Возможно, дело в том, что мы унаследовали греческую концепцию гибриса – высокомерие в попытке превзойти богов. А за гибрисом неумолимо следует немезис, когда боги наносят ответный удар. Более того, бог из Ветхого Завета, как напоминает Библия, мстителен, и считается источником любой жизни. Возможно, мы боимся, что, строя роботов или андроидов, узурпируем его власть. В христианском средневековье ученым приходилось сталкиваться с обвинениями в гордыне. Наша же культура в том, что касается роботов, придает больше значения человеческим страхам.

Если оглянуться назад, можно заметить, что роботы и андроиды в фильмах выглядят довольно стереотипно. У них практически всегда есть пол, хоть они и не размножаются, и поэтому гендерная дифференциация не играет тут особой роли. Человеческие персонажи в этих картинах не ставят их половую принадлежность под сомнение. «Мужские» роботы и андроиды, как Талос, обычно обладают суперсилой; «женские» преувеличенно сексуальны и влюбляют в себя человеческих персонажей-мужчин, как, например, Ава в фильме «Из машины» (2014). «Женщины» часто обладают выраженными вторичными половыми признаками – металлическими бюстами и осиными талиями, – что можно заметить на обложках популярных научно-фантастических книг и журналов.

Неслучайно девушка-робот Т-Х, Терминатрикс из «Терминатора-3», получила имя, напоминающее «Доминатрикс». Любопытным, хоть и единичным, противовесом этим преувеличенно сексуальным «женским» роботам является Л3-37 в «Соло», одном из фильмов цикла «Звездные войны». Этот робот, хоть и женский, выглядит как машина, без всяких гендерных признаков. Есть еще ЕВА из мультфильма «ВАЛЛ-И», хотя она похожа на летающее яйцо, благодаря анимационным приемам в ней безошибочно узнаешь девушку, а по сюжету между ней и ВАЛЛ-И начинается роман.

Хотя у роботов в кино обычно бывает пол, их зачастую показывают лишенными эмоций. Это считается их главной отличительной чертой, особенно в случае с андроидами, которые по виду схожи с человеческими персонажами. В качестве примера можно привести Дату из «Звездного пути». В раннем варианте сериала персонаж без эмоций, Спок, был инопланетянином, а не андроидом или роботом. Это очевидная отсылка к Декарту: человеком нас делает не способность думать, а способность испытывать чувства. Однако в главе 10 мы еще увидим, что для роботов создают специальные модели эмоций в составе их общего интеллектуального поведения.

Роботы и андроиды могут быть стереотипными и в более глубоком смысле. «Р. У. Р.» играет на идее искусственных существ, как мы их называем в наш пост-дарвиновский период, когда нечто может выглядеть как человек, но им не являться. Однако такие различия делались всегда. Исторически «другими» могли стать иностранные захватчики или, обращаясь в далекое прошлое, чужое племя или жители соседней деревни. Стереотипное восприятие других людей иначе всегда присутствовало в человеческом сознании, о чем хорошо известно политикам-популистам. Все мы знаем, как легко спровоцировать население на бунт против иммигрантов, внушив страх, что «они» отберут то, что по праву «наше». Психологи описывают это как внутригрупповое и внегрупповое мышление, и, хотя в некоторых историях мы подразумеваем под «ними» роботов или андроидов, разница лишь в том, что мы сами их сотворили. Говоря о роботах как о «других», мы скорее говорим о том, что означает быть человеком, то есть дискуссия в действительности о нас. И мы можем стать своим самым худшим кошмаром.

Примечания