Книга 21 урок для XXI века - читать онлайн бесплатно, автор Юваль Ной Харари. Cтраница 3
bannerbanner
Вы не авторизовались
Войти
Зарегистрироваться
21 урок для XXI века
21 урок для XXI века
Добавить В библиотекуАвторизуйтесь, чтобы добавить
Оценить:

Рейтинг: 0

Добавить отзывДобавить цитату

21 урок для XXI века

Чтобы понять природу технологического вызова, лучше всего, пожалуй, начать с рынка труда. С 2015 года я путешествовал по всему миру и беседовал с чиновниками, бизнесменами, общественными деятелями и студентами о том трудном положении, в котором оказалось человечество. Когда в ходе дискуссии об искусственном интеллекте, алгоритмах больших данных и биоинженерии я видел, что их одолевает отчаяние или скука, мне, как правило, хватало одного волшебного слова, чтобы снова привлечь внимание аудитории. Это было слово «работа». Очень скоро технологическая революция может вытеснить с рынка труда миллионы работников и образовать многочисленный класс лишних людей, что приведет к социальным и политическим потрясениям, справиться с которыми не под силу ни одной из существующих идеологий. Разговоры о технологии и идеологии могут показаться абстрактными и далекими от жизни, но более чем реальная перспектива массовой безработицы не оставляет равнодушным никого.

2. Работа

Когда станете взрослыми, можете не найти работу

Мы не имеем никакого представления о том, как будет выглядеть рынок труда в 2050 году. Принято считать, что машинное обучение и роботизация изменят буквально все – от производства йогуртов до преподавания йоги. Однако существуют прямо противоположные взгляды на природу грядущих изменений и их неизбежность. Некоторые убеждены, что через каких-нибудь 10–20 лет миллиарды людей станут ненужными для экономики. Другие утверждают, что автоматизация и в долгосрочной перспективе будет создавать новые профессии и обеспечит рост благосостояния для всех.

Действительно ли мы стоим на пороге пугающих перемен или подобные прогнозы – лишь очередной пример неоправданной луддитской истерии? Трудно сказать. Опасения, что автоматизация вызовет массовую безработицу, известны с XIX века, но еще ни разу не сбылись. С самого начала промышленной революции вместо каждой профессии, вытесненной машинами, появлялась как минимум одна новая, а средний уровень жизни быстро рос[10]. Однако есть все основания полагать, что времена изменились и что машинное обучение в корне изменит правила игры.

Люди обладают двумя видами способностей: физическими и когнитивными. В прошлом машины конкурировали с человеком, как правило, в грубой физической силе, тогда как в интеллектуальной сфере за людьми сохранялось огромное преимущество. После автоматизации ручного труда в сельском хозяйстве и промышленности появились новые профессии в сфере услуг, требовавшие умственных навыков, которыми обладают только люди: это обучение, анализ, общение и, самое главное, понимание человеческих эмоций. Однако сегодня искусственный интеллект начинает превосходить людей во все большем числе таких навыков, включая распознавание человеческих эмоций[11]. О существовании какого-то третьего поля деятельности (за пределами физического и когнитивного), где позиции людей были бы непоколебимы, нам неизвестно.

Важно понимать, что революция в сфере искусственного интеллекта связана не только с тем, что компьютеры становятся быстрее и умнее. Ее подпитывают прорывы в естественных и социальных науках. Чем яснее мы понимаем механизмы биохимических процессов, лежащих в основе человеческих эмоций, желаний и поступков, тем успешнее компьютеры анализируют поведение человека и предсказывают его решения, заменяя водителей, банкиров и юристов.

В последние десятилетия исследования в области нейробиологии и поведенческой экономики позволили ученым «взломать» человеческое мышление и гораздо лучше понять, как действует механизм принятия решений. Выяснилось, что наш выбор чего бы то ни было, от еды до партнера, определяет не какая-то загадочная свобода воли, а взаимодействие миллиардов нейронов, за долю секунды вычисляющих вероятности. Хваленая «человеческая интуиция» на поверку оказалась «распознаванием образов»[12]. Хорошие водители, банкиры и юристы вовсе не обладают магической интуицией в отношении трафика, инвестиций или переговоров. Узнавая повторяющиеся схемы, они замечают неосторожных пешеходов, ненадежных заемщиков, хитрых мошенников и стараются избегать их. Выяснилось также, что биохимические алгоритмы человеческого мозга далеко не совершенны. Они основаны на эвристике, упрощениях и устаревших нервных связях, более пригодных для условий африканской саванны, чем для каменных джунглей города. Неудивительно, что даже опытные водители, банкиры и юристы иногда совершают глупые ошибки.

Это значит, что искусственный интеллект способен превзойти человека даже в решении тех задач, которые якобы требуют «интуиции». Если говорить о состязании искусственного интеллекта с человеком в том, что касается мистических предчувствий, такая задача кажется невыполнимой. А вот соревнование искусственного интеллекта с нейронными сетями в вычислительных возможностях и распознавании закономерностей уже не выглядит невероятным.

В частности, искусственный интеллект может лучше справляться с задачами, которые требуют интуиции в отношении поведения других людей. Многие занятия (например, управление автомобилем на дороге с большим потоком пешеходов, выдача кредитов незнакомым людям, ведение деловых переговоров) требуют способности правильной оценки эмоций и желаний других людей. Выскочит ли этот ребенок на дорогу? Не собирается ли этот человек в приличном костюме взять деньги и исчезнуть? Намерен ли этот юрист выполнить свои угрозы или он просто блефует? Пока мы полагали, что такого рода эмоции и желания порождаются нематериальной душой, казалось очевидным, что компьютеры никогда не заменят водителей, банкиров и юристов. Разве машина может понять то, что мистическим образом создано человеческой душой? Но если эти эмоции и желания суть результат действия биохимических алгоритмов, нет никаких причин, по которым компьютеры не могли бы расшифровывать их – и гораздо успешнее, чем любой Homo sapiens.

Водитель, предвидящий намерения пешехода, банкир, который оценивает кредитоспособность потенциального заемщика, и юрист, чувствующий настроение партнера за столом переговоров, опираются не на магию. Они просто не осознают, что их мозг распознает биохимические закономерности, анализируя выражение лица, интонации голоса, движения рук и даже исходящий от человека запах. Искусственный интеллект, снабженный соответствующими датчиками, может делать все это гораздо точнее и надежнее, чем человек.

Поэтому угроза массовой безработицы связана не только с развитием информационных технологий. К ней ведет слияние искусственного интеллекта с биотехнологиями. Путь от сканера МРТ до рынка труда долог и тернист, но его можно пройти за несколько десятилетий. Те знания, которые сегодня исследователи мозга получают о миндалевидном теле или мозжечке, к 2050 году позволят компьютерам превзойти психиатров и телохранителей.

Искусственный интеллект может не только «взламывать» людей и превосходить их в умениях и навыках, которые до сих пор считались исключительно человеческими. Он также обладает уникальными способностями, отсутствующими у человека, что делает различие между ним и работником из плоти и крови не только количественным, но и качественным. Две важные сверхчеловеческие способности искусственного интеллекта – это возможность подключения и взаимодействия, а также обновляемость.

Люди – отдельные личности, и их трудно подключить друг к другу и проследить, чтобы все они отвечали современным требованиям. Зато компьютеры легко объединить в единую гибкую сеть. Поэтому речь идет не о замене миллионов отдельных работников миллионами роботов и компьютеров. Скорее всего, отдельных людей заменят интегрированные сети. Говоря об автоматизации, некорректно сравнивать возможности одного водителя с возможностями одного беспилотного автомобиля или одного врача с одним искусственным интеллектом, который ставит диагноз и назначает лечение. Нужно сравнивать возможности коллектива людей с возможностями интегрированной сети.

Например, многие водители не знают о последних изменениях в правилах дорожного движения и поэтому часто их нарушают. Кроме того, поскольку каждая машина автономна, то, когда две машины приближаются к одному перекрестку, водители могут неверно оценить намерения друг друга, что приводит к аварии. Два беспилотных автомобиля, приближающиеся к перекрестку, не полностью автономны – они части единого алгоритма. Поэтому вероятность неверной интерпретации намерений, а значит, и столкновения у них гораздо ниже. А если министерство транспорта решит изменить какие-то пункты ПДД, все беспилотные автомобили можно одновременно и без особого труда перепрограммировать, чтобы они в точности соблюдали новые правила[13].

Сказанное справедливо и для медицины. Когда Всемирная организация здравоохранения выявляет новое заболевание или какая-нибудь лаборатория создает новое лекарство, информацию об этом практически невозможно донести сразу до всех врачей в мире. Но если мы создадим даже 10 миллиардов систем медицинского искусственного интеллекта и каждая будет следить за здоровьем какого-то одного человека, информацию в них можно обновить за доли секунды, и эти системы легко смогут обмениваться данными о новом вирусе или препарате. Эти потенциальные преимущества – взаимодействие и обновляемость – столь велики, что в некоторых профессиях имеет смысл заменить всех людей компьютерами, даже если некоторые специалисты по-прежнему справляются с работой лучше машины.

Вы можете возразить, что, заменив отдельных людей компьютерной сетью, мы лишимся преимуществ индивидуального подхода. Например, если один врач поставит неверный диагноз, он не убьет всех пациентов в мире и не остановит разработку всех новых лекарств. Но если все врачи представляют собой единую систему и эта система допустит ошибку, результат может оказаться катастрофическим. В реальности интегрированные компьютерные системы могут максимизировать преимущества взаимодействия, не растеряв преимуществ индивидуального подхода. В одной сети будут выполняться разные алгоритмы – так, чтобы пациент в отдаленной деревне в джунглях мог с помощью смартфона связаться не с одним авторитетным врачом, а с сотнями систем медицинского искусственного интеллекта, работа которых подвергается постоянному сравнению. Не устраивают рекомендации врача IBM? Не страшно. Даже если вы застряли где-то на склонах Килиманджаро, вам не составит никакого труда узнать мнение доктора из Baidu.

Польза для человеческого общества, вероятно, будет огромной. Системы медицинского искусственного интеллекта смогут обеспечить более качественным и дешевым медицинским обслуживанием миллиарды людей, включая тех, кому сегодня вообще недоступны услуги здравоохранения. Благодаря обучающим алгоритмам и биометрическим датчикам бедный деревенский житель из слаборазвитой страны сможет получить медицинские услуги, по качеству значительно превосходящие те, что сегодня богатейшие люди мира получают в самых современных клиниках[14].

Аналогичным образом беспилотные автомобили могли бы обеспечить людей лучшими транспортными услугами – в частности, снизить смертность из-за автомобильных аварий. В наши дни в авариях на дорогах ежегодно гибнет около 1,25 миллиона человек (в два раза больше, чем из-за войн, преступлений и терактов)[15]. Более 90 % этих аварий связаны с так называемым человеческим фактором: кто-то сел за руль нетрезвым, кто-то вел машину, набирая сообщение на телефоне, кто-то заснул за рулем, кто-то просто погрузился в грезы, вместо того чтобы следить за дорогой. По оценкам Национального управления безопасности движения на трассах, в 2012 году в США причиной 31 % смертельных аварий был алкоголь, 30 % – превышение скорости и 21 % – невнимательность[16]. Для беспилотных автомобилей подобное невозможно. Хотя у них есть свои проблемы и ограничения, а некоторых аварий не удастся избежать никому, замена всех водителей компьютерами, как ожидается, снизит уровень смертности и травм на дорогах приблизительно на 90 %[17]. Иными словами, переход на беспилотные автомобили, по всей видимости, каждый год будет сохранять жизни миллиону человек.

Так что было бы безумием препятствовать автоматизации в сфере транспорта и здравоохранения только ради того, чтобы сохранить людям рабочие места. Ведь по большому счету защищать нужно именно людей, а не работу. Освободившимся водителям и врачам просто придется искать себе другие занятия.

Алгоритм по имени Моцарт

Маловероятно, что искусственный интеллект и роботы полностью уничтожат целые отрасли – по крайней мере, в ближайшее время. Будет автоматизирован в основном узкий диапазон монотонных рабочих операций. Гораздо труднее заменить машинами представителей творческих профессий, в которых необходимо использовать широкий набор навыков и которые требуют умения действовать в непредсказуемых ситуациях. Вернемся к здравоохранению. Многие врачи практически полностью заняты обработкой информации: они собирают данные о здоровье, анализируют их, ставят диагноз. А вот медсестра должна обладать хорошими моторными и эмоциональными навыками, чтобы безболезненно сделать укол, сменить повязку или успокоить буйного пациента. Поэтому, скорее всего, семейный врач с искусственным интеллектом на нашем смартфоне появится на несколько десятилетий раньше, чем мы увидим надежного робота-медсестру[18]. По всей вероятности, сфера социального обслуживания – забота о больных, детях и стариках – еще долго останется в ведении человека. Люди живут все дольше, а детей у них становится меньше, и поэтому уход за пожилыми будет одним из самых быстрорастущих секторов на рынке труда для человека.

Плохо поддается автоматизации не только уход за больными и немощными, но и творческий процесс. Нам больше не нужны люди, продающие музыку: мы можем напрямую загрузить ее из iTunes, – но композиторы, музыканты, певцы и диджеи у нас по-прежнему из плоти и крови. Мы полагаемся на творческие способности людей не только в сочинении новой музыки, но и в выборе из невероятного количества доступных вариантов.

И все же автоматизации не избежит ни одна сфера – даже искусство. В современном мире искусство обычно ассоциируют с человеческими эмоциями. Мы склонны считать, что художник дает выход неким внутренним психологическим процессам, что цель искусства – помочь нам осознать свои эмоции или пробудить в нас новые чувства. Поэтому, анализируя искусство, мы пытаемся судить о нем по эмоциональному воздействию на аудиторию. Но если в основе искусства лежат чувства, что произойдет, когда внешние алгоритмы научатся понимать человеческие эмоции и манипулировать ими лучше, чем Шекспир, Фрида Кало или Бейонсе?

В конце концов, эмоции – вовсе не мистическое явление, а продукт биохимических процессов. Поэтому в недалеком будущем алгоритм машинного обучения сможет анализировать биометрические данные от датчиков внутри и на поверхности вашего тела, определять ваш тип личности, следить за сменой настроения, а затем вычислять эмоциональное воздействие, которое окажет на вас та или иная композиция – или даже музыкальная тональность[19].

Вероятно, из всех видов искусства для анализа больших данных лучше всего подходит музыка, поскольку и она сама, и результат ее воздействия поддаются точному математическому описанию. На входе – математические диаграммы звуковых волн, на выходе – электрохимические диаграммы нейронных бурь. Через несколько десятилетий алгоритм, проанализировавший миллионы мелодий, научится предсказывать, какую реакцию вызовет любая из них[20].

Предположим, вы только что поссорились с близким человеком. Алгоритм, управляющий аудиосистемой в вашем доме, сразу же заметит ваше эмоциональное возбуждение и, основываясь на том, что он знает о вас лично и о человеческой психологии в целом, включит композиции, соответствующие вашему мрачному настроению и созвучные вашим переживаниям. Эти мелодии не обязательно подойдут другим, но для вашего типа личности они идеальны. После того как алгоритм поможет вам осознать глубину ваших страданий, он включит единственную в мире песню, которая способна вас утешить – возможно, потому, что ваше подсознание ассоциирует ее с воспоминаниями о счастливом детстве, хотя вы об этом даже не догадываетесь. Ни один диджей никогда не сравняется в этом умении с искусственным интеллектом.

Вы можете возразить, что таким образом искусственный интеллект убьет интуицию и запрет нас внутри тесного музыкального кокона, сотканного из предыдущих предпочтений. А как насчет того, чтобы ознакомиться с новыми музыкальными стилями? Не проблема. Вы легко сможете запрограммировать алгоритм так, чтобы в 5 % случаев его выбор был абсолютно случайным – он будет без предупреждения проигрывать вам записи индонезийского оркестра гамелан, оперы Россини или последние южнокорейские хиты. Со временем, регистрируя вашу реакцию, искусственный интеллект сумеет даже вычислить оптимальный уровень случайности, который будет обеспечивать необходимую новизну, не вызывая раздражения: например, понизит его до 3 % или повысит до 8 %.

Другое возможное возражение – непонятно, как алгоритм будет устанавливать «эмоциональную цель». Если вы поссорились с другом, к каким эмоциям должен подталкивать вас алгоритм – к печали или к радости? Будет ли он слепо придерживаться жесткой шкалы «хороших» и «плохих» эмоций? А что, если в жизни бывают минуты, когда грусть полезна? Тот же вопрос можно адресовать музыкантам и диджеям. Однако алгоритм может предложить много интересных решений и для этой задачи.

Одно из них – просто предоставить решать пользователю. Вы можете выбрать желательные эмоции, а алгоритм будет следовать вашим указаниям. Иногда вам хочется жалеть себя, иногда – прыгать от радости. Алгоритм будет покорно вам подчиняться. Он научится распознавать ваши желания даже тогда, когда вы сами плохо их понимаете.

А если вы не хотите полагаться на себя, то можете попросить алгоритм следовать рекомендациям любого выдающегося психолога, которому доверяете. Если вы расстанетесь с близким человеком, алгоритм проведет вас через пять стадий переживания горя: сначала поможет отрицать случившееся, проигрывая Don’t Worry, Be Happy Бобби Макферрина, потом подстегнет ваш гнев песней Аланис Мориссетт Yo u Oughta Know, заставит торговаться с помощью Ne Me Quitte Pas Жака Бреля и Come Back and Stay Пола Янга, повергнет в депрессию композицией Адель Someone Like You и Hello и, наконец, поможет принять неизбежное, включив I Will Survive Глории Гейнор.

Следующий шаг для алгоритма – работать с самими песнями и мелодиями, слегка меняя их, чтобы адаптировать к запросам клиента. Возможно, вам не нравится небольшой фрагмент в целом отличной песни. Алгоритм знает об этом, потому что ваш сердечный ритм меняется, а уровень окситоцина падает, когда вы слышите раздражающий вас кусок. И он может переписать или отредактировать ноты, которые вам не по душе.

Когда-нибудь алгоритмы научатся сочинять целые мелодии, играя на человеческих эмоциях, словно на клавишах фортепиано. Используя ваши биометрические данные, алгоритм сможет даже писать персонализированную музыку, которую сможете полностью понять и прочувствовать только вы.

Часто говорят, что люди воспринимают искусство потому, что находят в нем себя. Мы увидим удивительные и несколько пугающие результаты, если, скажем, Facebook начнет создавать персонализированные шедевры на основе всего, что он о вас знает. Если вас бросит партнер, Facebook утешит вас песней об этом конкретном негодяе, а не о каком-то незнакомце, разбившем сердце Адель или Аланис Мориссетт. Песня даже напомнит вам о реальных эпизодах ваших взаимоотношений, о которых во всем мире знаете только вы двое.

Конечно, персонализированное искусство может и не войти в моду – не исключено, что люди по-прежнему будут предпочитать знакомые хиты, которые нравятся всем. (Как петь с друзьями песни, известные только вам, или танцевать всем вместе под такую музыку?) Но в создании мировых хитов алгоритмы способны проявить еще большую гибкость, чем в сочинении персональной музыки. Используя массивы биометрических данных миллионов людей, алгоритм сможет выяснить, на какие биохимические «кнопки» нужно нажать, чтобы будущий хит захватил все танцполы мира. Если искусство действительно призвано вызывать у человека эмоции (или манипулировать ими), то музыкантам-людям будет очень трудно или даже невозможно тягаться с алгоритмом: ведь они не в состоянии так глубоко понять главный инструмент, на котором играют, – свою биохимическую систему.

Появится ли в результате великое искусство? Все зависит от того, что мы вкладываем в это понятие. Если красота действительно в глазах смотрящего (и в ушах слушающего) и если клиент всегда прав, то у биометрических алгоритмов есть шанс создать лучшие шедевры в истории. Если искусство – это нечто более глубокое, чем человеческие эмоции, и оно должно выражать некую истину, не имеющую отношения к нашим биохимическим колебаниям, то биометрические алгоритмы, возможно, будут не слишком хорошими художниками. Как, впрочем, и большинство людей. Чтобы выйти на музыкальный рынок и потеснить многих композиторов и исполнителей, алгоритму не обязательно писать музыку лучше Чайковского. Для начала достаточно превзойти Бритни Спирс.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Сноски

1

См., например, инаугурационную речь Джорджа Буша – младшего в 2005 году, в которой он сказал: «Исходя из последних событий и руководствуясь здравым смыслом, мы пришли к заключению: сохранение свободы в нашей стране в значительной степени зависит от успеха свободы в других странах. Самую большую надежду на мир дает распространение свободы по всей планете». ‘Bush Pledges to Spread Democracy’, CNN, 20 January 2005, http://edition.cnn.com/2005/ALLPOLITICS/01/20/bush.speech/, accessed 7 January 2018. Что касается Обамы, см., например, его последнюю речь в ООН: Katie Reilly, ‘Read Barack Obama’s Final Speech to the United Nations as President’, Time, 20 September 2016, http://time.com/4501910/president-obama-united-nations-speech-transcript/, accessed 3 December 2017.

2

William Neikirk and David S. Cloud, ‘Clinton: Abuses Put China “On Wrong Side of History”, Chicago Tribune, 30 October 1997, http://articles.chicagotribune.com/1997-10-30/news/9710300304_1_ human-rights-jiang-zemin-chinese-leader, accessed 3 December 2017.

3

Eric Bradner, ‘Hillary Clinton’s Email Controversy, Explained’, CNN, 28 October 2016, http://edition.cnn.com/2015/09/03/politics/hillary-clinton-email-controversy-explained-2016/index.html, accessed 3 December 2017.

4

Chris Graham and Robert Midgley, ‘Mexico Border Wall: What is Donald Trump Planning, How Much Will It Cost and Who Will Pay for It?’, Telegraph, 23 August 2017, http://www.telegraph.co.uk/news/0/mexico-border-wall-donald-trump-planning-much-will-cost-will/, accessed 3 December 2017; Michael Schuman, ‘Is China Stealing Jobs? It May Be Losing Tem, Instead’, New York Times, 22 July 2016, https://www.nytimes.com/2016/07/23/business/international/china-jobs-donald-trump.html, accessed 3 December 2017.

5

Несколько примеров из XIX и начала XX века см. в Evgeny Dobrenko and Eric Naiman (eds.), The Landscape of Stalinism: The Art and Ideology of Soviet Space (Seattle: University of Washington Press, 2003); W. L. Guttsman, Art for the Workers: Ideology and the Visual Arts in Weimar Germany (New York: Manchester University Press, 1997). Общую дискуссию см., например, в Nicholas John Cull, Propaganda and Mass Persuasion: A Historical Encyclopedia, 1500 to the Present (Santa Barbara: ABC–CLIO, 2003).

6

Эту интерпретацию см.: Ishaan Tharoor, ‘Brexit: A modern-day Peasants’ Revolt?’, Washington Post, 25 June 2016, https:// www.washingtonpost.com/news/worldviews/wp/2016/06/25/the-brexit-a-modern-day-peasants-revolt/?utm_term=.9b8e81bd5306; John Curtice, ‘US election 2016: The Trump – Brexit voter revolt’, BBC, 11 November 2016, http://www.bbc.com/news/ election-us-2016–37943072.

7

Самой известной работой, конечно, остается Francis Fukuyama, The End of History and the Last Man (London: Penguin, 1992).

8

Ayelet Shani, ‘The Israelis Who Take Rebuilding the Tird Temple Very Seriously’, Haaretz, 10 August 2017, https://www.haaretz.com/israel-news/.premium-1.805977, accessed January 2018; ‘Israeli Minister: We Should Rebuild Jerusalem Temple’, Israel Today, 7 July 2013, http://www. israeltoday.co.il/Default.aspx?tabid=178&nid=23964, accessed 7 January 2018; Yuri Yanover, ‘Dep. Minister Hotovely: The Solution Is Greater Israel without Gaza’, Jewish Press, 25 August 2013, http://www.jewishpress.com/news/breaking-news/dep-minister-hotovely-the-solution-is-greater-israel-without-gaza/2013/08/25/, accessed 7 January 2018; ‘Israeli Minister: The Bible Says West Bank Is Ours’, Al Jazeera, 24 February 2017, http://www.aljazeera.com/programmes/upfront/2017/02/israeli-minister-bible-west-bank-170224082827910.html, accessed 29 January 2018.