Общий взгляд на проблему очевиден в том, чего и как пытались достичь эти изобретатели – научиться при помощи пара двигать поршень в цилиндре вперед-назад, таким образом совершая работу, а затем оптимизировать этот двигатель для применения в самых разных областях. Общее видение не только позволяло им учиться друг у друга, но и означало, что они будут решать поставленную задачу схожим образом. Поначалу они сосредоточились на так называемом атмосферическом двигателе, в котором конденсированный пар создает внутри цилиндра вакуум и поршень движется под действием атмосферного давления. Другие возможности – например, паровой двигатель высокого давления, впервые описанный Якобом Леупольдом в 1720 году, – все дружно игнорировали. Двигатели высокого давления, в которых использовались два поршня – вверх их двигало давление пара, а вниз сила земного притяжения, – распространились только в XIX веке.
Кроме того, видение этих ранних разработчиков паровых двигателей включало в себя высокую мотивацию и полное пренебрежение к «сопутствующим потерям», которые приносили их изобретения, – например к судьбам малолетних детей, надрывающихся на работе в угольных шахтах, осушение которых стало возможно только благодаря мощным паровым насосам.
Что верно для паровых двигателей, верно и для всех прочих технологий. Ни одна технология не существует в отрыве от стоящего за ней видения. Мы ищем пути решения проблем, с которыми сталкиваемся (это видение). Представляем себе, какие инструменты могли бы нам помочь (тоже видение). Из многочисленных путей, открытых перед нами, выбираем два-три и сосредотачиваемся на них (тоже одна из сторон видения). Затем на основе этого понимания начинаем экспериментировать, пробуем разные подходы, что-то изобретаем. По ходу возникают препятствия, случаются неудачи, обнаруживается «цена вопроса»; почти наверняка всплывают неожиданные последствия – в том числе чьи-то потенциальные страдания. Нас это останавливает? Заставляет задуматься – и, быть может, даже отказаться от своей мечты? Или мы мчимся вперед, несмотря ни на что? Это тоже зависит от видения.
Но чем определяется, какое видение возьмет верх? Хоть речь и идет о том, как лучше использовать наши коллективные знания, решающими факторами становятся здесь вовсе не научные и не строго логические соображения. Выбор в этом контексте определяет власть и сила – прежде всего сила убеждения, о которой мы поговорим в главе третьей, – поскольку разные решения несут выгоду разным людям. У кого больше власти – у того и больше шансов убедить остальных в правоте своего видения, чаще всего тесно связанного с личными интересами. А тот, кому удается превратить свои идеи в общее видение, укрепляет свое положение в обществе и обретает дополнительную власть.
Не будем обманываться монументальными технологическими достижениями человечества. Мы по-прежнему готовы попасть в ловушку общего видения. Компании вкладывают деньги в то, что их управленцы считают наиболее выгодными решениями. Если компания, например, устанавливает новые компьютеры – значит, прибыль от них превысит их стоимость. Но в мире, где наши действия подчиняются общему видению, таких гарантий нет. Если убедить всех в том, что нам совершенно необходим искусственный интеллект, все начнут внедрять технологии, основанные на искусственном интеллекте, даже там, где существуют иные и, возможно, более выгодные пути организации производства. Схожим образом, если большинство исследователей развивают машинный интеллект в определенном направлении, скорее всего, другие покорно, даже слепо, двинутся по их стопам.
Еще более серьезные последствия возникают у наших решений, когда речь идет об универсальных технологиях, таких как электричество или компьютеры. Универсальные технологии создают платформу, на которой можно разработать множество практических решений, полезных (а иногда и вредоносных) во многих областях, для множества групп людей. И платформы также можно развивать в самых разных направлениях.
Электричество, например, не только стало более дешевым источником энергии, но и открыло дорогу множеству инноваций: радиоприемникам, бытовой технике, кинопродукции, телевидению. Сделало возможной фундаментальную реорганизацию промышленности: улучшилось освещение, появилась возможность индивидуального питания станков, стало возможно выполнять новые, более сложные и точные технические задачи. Основанные на электричестве новшества увеличили потребность в сырье и других материалах, например химикатах и топливе, а также в перевозках и продаже готовых изделий. Это привело к созданию новых пластмасс, красок, металлов, средств передвижения, которые затем использовались в других промышленных отраслях. А еще электричество создало условия для куда более серьезного, чем прежде, промышленного загрязнения окружающей среды.
Хотя многоцелевые технологии можно развивать очень по-разному, оказавшись в плену общего видения, люди начинают видеть лишь одну возможную траекторию; им становится трудно оторваться от нее и исследовать другие, быть может, более выгодные для общества. Горстка людей принимает решения – большинство с ними пассивно соглашается. Так естественный ход прогресса оказывается искривлен – в пользу тех, кто обладает властью, принимает решения и навязывает свое видение другим, и против тех, чьи голоса в обществе не слышны.
Возьмем для примера решение китайской Коммунистической партии ввести систему социального кредита, которая собирает информацию о частных лицах, компаниях, государственных организациях, следя за их надежностью и за тем, соблюдают ли они установленные правила. В 2009 году эта система была впервые введена на местном уровне, теперь действует уже по всей стране – и заносит в черные списки людей и организации, которые высказывают или публикуют в соцсетях что-либо, идущее вразрез с линией партии. Это решение, повлиявшее на жизнь 1,4 миллиарда человек, приняли несколько партийных лидеров вместе с главами китайских IT-гигантов, таких как Ali Baba или Baidu. Мнения тех, чью свободу слова и собраний, возможность получить образование, работу в госструктуре, путешествовать, даже получать жилье и госуслуги теперь ограничивает эта система, разумеется, никто не спрашивал.
И такое происходит не только в авторитарных государствах. В 2018 году основатель и директор Facebook[2 - Эта социальная сеть в России признана экстремистской и запрещена.] Марк Цукерберг объявил: алгоритмы работы его соцсети будут модифицированы так, чтобы облегчить пользователям «значимое социальное взаимодействие». На практике это означало, что платформа приоритизирует в новостной ленте посты от других пользователей, в первую очередь от родных и друзей, и пессимизирует выдачу постов от новостных агентств и известных брендов. Цель этих изменений состояла в том, чтобы увеличить вовлеченность пользователей, ведь люди с бо?льшим интересом читают и чаще «лайкают» посты своих знакомых. Основным последствием стало то, что пользователи начали больше времени проводить в Facebook с последующим обвальным распространением фейковых новостей и ростом политической поляризации: необъективные и попросту лживые посты теперь стремительно распространялись от одного пользователя к другому. Эта перемена повлияла не только на почти 2,5 миллиарда пользователей платформы – политические последствия этого сказались еще на миллиардах людей, не присутствующих в Facebook. А кто принял решение? Сам Цукерберг, главный исполнительный директор компании Шерил Сэндберг и еще несколько лиц из топ-менеджмента. Никто не посоветовался ни с пользователями платформы, ни с гражданами пострадавших от этого стран.
Что стояло за решениями китайской Коммунистической партии и Facebook? Ни в том, ни в другом случае они не были продиктованы принципами науки и техники. Не были они и очевидными следующими шагами на каком-то логически неизбежном пути прогресса. В обоих случаях мы видим разрушительную роль своекорыстных интересов – желания заткнуть рот оппозиции или повысить доходы от рекламы. Центральное место занимает взгляд руководства страны/компании на то, как должно быть организовано сообщество и чему в нем следует отдавать приоритет. Но еще важнее то, как высокие технологии используются для контроля: над политическими взглядами населения в случае Китая и над общественной активностью людей и информацией о них – в случае Facebook.
Вот что упустил Фрэнсис Бэкон и понял Г. Дж. Уэллс, имея преимущество в 275 лет истории человечества: технологии – это власть не только над природой, но и над собратьями-людьми. Дело не только в том, что от внедрения технических новинок одни выигрывают больше, чем другие. Речь о более фундаментальном принципе: различные способы организации производства обогащают и наделяют властью одних, ввергая в нищету и лишая власти других.
Эти соображения столь же важны для направления научно-технического поиска и в других сферах. Управленцы и владельцы бизнесов зачастую стремятся увеличить автоматизацию и усилить надзор, поскольку это позволяет им увеличить контроль над производством продукции, сэкономить на зарплатах и ослабить рабочее движение. Эта их потребность преобразуется в стимуляцию ученых и требование от них искать новые пути автоматизации и надзора – даже если развитие других технологий, не столь враждебных работникам, скорее поможет повысить производительность и найти путь к общему процветанию.
И в этих случаях общество может стать заложником видения, сформированного представителями власти и отвечающего их интересам. Подобное видение помогает лидерам в области бизнеса и высоких технологий осуществлять планы, делающие их еще богаче, влиятельнее, могущественнее. Элиты могут убеждать себя: что хорошо для них – хорошо и для общего блага. Могут даже прийти к мысли, что на благородном пути прогресса оправданы любые жертвы – особенно если высокую цену платят молчаливые и незаметные члены общества. Вдохновляемые таким эгоистичным видением, лидеры отрицают, что существует множество путей развития, имеющих очень разные последствия. Могут даже оскорбиться, если указать им на альтернативы.
Неужели от гибельных идей, навязываемых людям без их согласия, нет никакой защиты? Как остановить влияние классовых предрассудков на развитие высоких технологий? Неужели мы обречены бегать в колесе, где сменяют друг друга горделивые и эгоцентричные фантазии, определяющие собой наше будущее?
Нет. Не стоит отчаиваться: история учит нас, что более инклюзивное видение – такое, которое прислушивается к голосам более широкого круга и яснее представляет себе последствия для всех, – вполне возможно. Общее процветание возможно там, где предприниматели и разработчики новых технологий вынуждены считаться с какими-то иными силами и отвечать перед ними; в этом случае методы производства и инновации развиваются в большем согласии с интересами простых людей.
Инклюзивное видение не избегает спорных вопросов – например о том, стоит ли выгода для одних той цены, которую неизбежно заплатят другие. Оно оценивает все последствия социальных решений и не затыкает рты тем, кто от них не выигрывает.
Держаться ли нам узкого, эгоцентрического видения или перейти к более инклюзивному – тоже вопрос выбора. Исход зависит от того, найдутся ли в обществе альтернативные источники власти, сумеют ли те, кто не вхож в высокие кабинеты, организоваться и заставить себя услышать. Если мы не хотим подчиняться видению правящих элит, то должны найти способы им противостоять и противопоставлять их эгоизму свое, более инклюзивное видение. К сожалению, в век искусственного интеллекта это становится все сложнее.
Огонь нашего времени
На заре истории жизнь человечества преобразил огонь. Древнейшие слои, обнаруженные при раскопках в Сварткрансе, пещере в Южной Африке, показывают нам человеческие кости, обглоданные хищниками – медведями и крупными кошачьими. Для крупнейших хищников тех времен человек был легкой добычей. Особую опасность представляли темные места вроде пещер – нашим предкам приходилось их избегать. Но вот в этой пещере появляются первые следы огня – слой прогоревших углей возрастом приблизительно в 1 млн лет. И дальше археологические находки показывают совершенно обратную картину: начиная с этого времени основная масса костей в пещере – не человеческие. Они принадлежат животным. Овладев огнем, древние гоминиды смогли изгнать хищников из пещер, поселились там – и сами стали хищниками.
Ни одна другая технология за последние 10 000 лет даже близко не оказала такого фундаментального влияния на всю нашу жизнь. Но сейчас – по крайней мере, если верить его пропагандистам, – появился новый кандидат на пьедестал – искусственный интеллект (ИИ). Директор Google Сундар Пичаи говорит об этом без обиняков:
«ИИ, возможно, самый важный проект в истории человечества. На мой взгляд, он принесет более серьезные перемены, чем электричество или даже огонь».
ИИ – это название отрасли информатики, разрабатывающей «разумные» машины, то есть машины и алгоритмы (инструкции по решению проблем), способные выполнять сложные высокоуровневые задачи. Современные разумные машины делают то, что еще пару десятилетий назад казалось невозможным. Примеров множество: программы распознавания лиц, поисковики, угадывающие, что мы хотим найти, системы рекомендаций, предлагающие продукты, которые нам больше всего понравятся (или, как минимум, которые мы с наибольшей вероятностью купим). Многие современные системы общаются с людьми с помощью естественного языка, преобразуя компьютерные запросы и команды в человеческую речь. Сири, созданная Apple, или поисковик Google – примеры систем, основанных на ИИ, широко известных и распространенных во всем мире.
Энтузиасты ИИ указывают и на некоторые впечатляющие достижения. Программы ИИ умеют распознавать тысячи различных предметов и образов, осуществляют перевод простых текстов более чем на сто языков. Помогают диагностировать рак. Делают инвестиции – порой успешнее популярных финансовых аналитиков. Помогают юристам и их помощникам просеивать тысячи документов и находить среди них те, что могут пригодиться в деле. Переводят инструкции, данные на естественном языке, в компьютерный код. Даже сочиняют музыку, отдаленно напоминающую Баха, и пишут газетные статьи (впрочем, бессодержательные и скучные).
В 2016 году компания по разработке ИИ DeepMind выпустила AlphaGo – программу для игры в го, победившую одного из двух лучших игроков в мире. Год спустя за ней последовала AlphaZero – шахматная программа, способная побить любого гроссмейстера. Стоит отметить, что это была самообучающаяся программа, и сверхчеловеческого уровня она достигла лишь после девяти часов непрерывной игры с самой собой.
Эти победы воодушевили общество; теперь мы со всех сторон слышим, что ИИ изменит все стороны нашей жизни – и исключительно к лучшему. С его помощью человечество достигнет здоровья, процветания и иных похвальных целей. Как гласит подзаголовок недавно вышедшей книги на эту тему: «Искусственный интеллект преобразит все». Или, как выразился Кай-Фу Ли, бывший глава китайского Google: «ИИ станет самой преобразующей технологией в истории человечества».
Но что, если и здесь найдется ложка дегтя? Что, если ИИ полностью разрушит рынок труда, на котором зарабатывает себе на жизнь большинство из нас, и безмерно увеличит экономическое неравенство? Что, если главным результатом его внедрения станет не рост производительности, а перераспределение власти и богатства – от обычных людей к тем, кто контролирует информацию и принимает ключевые корпоративные решения? Что, если на этом пути ИИ отбросит в нищету миллиарды жителей развивающихся стран? Усилит и укрепит существующие предрассудки – например, связанные с цветом кожи? Уничтожит демократические институты?
Число свидетельств, что эти опасения вполне оправданы, неизменно растет. По-видимому, развитие ИИ движется по траектории, умножающей неравенство не только в индустриальных странах, но и во всем мире. Опираясь на огромные массивы данных, собранные IT-компаниями и авторитарными правительствами, ИИ уже сейчас душит демократию и укрепляет автократию. Мы увидим в девятой и десятой главах, насколько глубоко и обширно его влияние и на экономику, хотя на нынешнем своем пути развития ИИ почти не повышает нашу производительность. Учитывая все это, новейший энтузиазм по поводу ИИ приходится признать лишь новой версией старого технооптимизма, с одинаковым восторгом приветствующего и автоматизацию, и усиление надзора, и выбрасывание обычных людей на обочину жизни.
Однако большинство лидеров в сфере высоких технологий не принимают эти опасения всерьез. Мы только и слышим, сколько добра принесет нам ИИ. А если возникнут какие-то проблемы… что ж, это неизбежно, но долго они не продлятся, и их будет легко исправить. Кто-то пострадает от ИИ? Есть выход: делать больше ИИ!
Например, основатель DeepMind Демис Хассабис не просто считает, что «ИИ станет самой важной из всех когда-либо изобретенных технологий», – он уверен:
«Углубляя нашу способность задаваться вопросами „как“ и „почему“, ИИ раздвинет границы наших познаний и откроет новые направления научного исследования, а это улучшит жизнь миллиардов людей».
Он не единственный. Схожие заявления мы слышим от целого ряда экспертов. Робин Ли, один из основателей китайского интернет-поисковика Baidu и инвестор нескольких компаний, лидирующих в разработке ИИ, утверждает: «Революция разума станет благотворной революцией как в нашем производстве и образе жизни, так и в образе мышления».
Многие идут еще дальше. Рэй Курцвейл, известный топ-менеджер, изобретатель и публицист, уверенно доказывает, что набор технологий, связанных с ИИ, очень скоро поможет нам достичь «сверхразумности» или «сингулярности» – иначе говоря, нам откроется путь к безбрежному процветанию и достижению всех наших материальных целей, а может быть, и нематериальных тоже. Он верит, что программы ИИ превзойдут по своим способностям человека настолько, что откроют в себе новые, сверхчеловеческие способности – или же, словно в фантастическом романе, сольются с людьми и породят сверхлюдей.
Справедливости ради заметим, что не все лидеры в IT-сфере так оптимистичны. Миллиардеры Билл Гейтс и Илон Маск, оба носившие звание «самого богатого человека в мире», уже выразили опасение по поводу злонамеренного или бесконтрольного ИИ и последствий ничем не ограниченного развития ИИ для будущего Земли. Однако оба согласны с Хассабисом, Ли, Курцвейлом и многими другими в одном: технологии в целом несут благо, так что в решении проблем человечества можно и нужно полагаться на технологии (в том числе цифровые). По словам Хассабиса,
«нам придется либо существенно улучшить поведение человека – сделать людей более альтруистичными, дальновидными, щедрыми, склонными к сотрудничеству, – либо существенно улучшить наши технологии».
Все эти идеологи ни минуты не сомневаются в том, что технологические изменения всегда служат прогрессу. Принимают за аксиому, что технологии помогут решить любые социальные проблемы. Если поначалу миллиарды людей окажутся ущемлены, беспокоиться не стоит: скоро польза от новых технологий дойдет и до них. Все, что от нас требуется, – верить в прогресс и смело идти вперед.
Один из основателей PayPal и LinkedIn Рейд Хоффман говорит:
«Возможно ли, что нас ждут трудные двадцать лет? Вполне возможно. Но когда трудишься ради прогресса, твое будущее всегда будет лучше настоящего».
Подобная вера в благотворную силу прогресса не нова, как мы уже видели в прологе. Подобно Фрэнсису Бэкону, мы склонны расценивать любые технологические прорывы как изобретение огня – то, что делает нас хозяевами положения и позволяет «сравнять счет» с природой. Благодаря огню человек перестал быть жалкой добычей и превратился в самого опасного хищника на планете. Многие другие технологии мы рассматриваем в том же ключе: расстояния побеждаем колесом, темноту – электричеством, болезни – медициной.
Однако, что бы ни твердили нам со всех сторон, не следует верить, что избранный путь несет благо для всех; эффект «прицепного вагона» зачастую слаб и никогда не возникает автоматически. И сейчас перед нами не неудержимый ход прогресса, ведущий к всеобщему процветанию, а влиятельное общее видение, распространенное среди лидеров первого ряда в IT-сфере. Это видение сосредоточено на автоматизации, усилении надзора и массовом сборе данных – принципах, которые и подрывают общее благосостояние, и ослабляют демократию. И то, что одновременно они увеличивают богатство и власть самих этих лидеров за счет большинства простых людей, вовсе не случайное совпадение.
Эта динамика уже создала «новую олигархию» – тесный круг лидеров в IT-сфере, людей со схожим бэкграундом, мировоззрением, установками… и, к сожалению, с очень схожими «слепыми пятнами». Речь идет именно об олигархии, поскольку эта небольшая кучка людей с общим взглядом на мир монополизирует социальную власть и не обращает внимания на то, сколь разрушительны ее действия для людей безвластных и безответных. Могущество этой группировки зиждется не на танках и ракетах, а на доступе в коридоры власти и возможности влиять на общественное мнение.
Видение этой олигархии так убедительно, поскольку приносит блестящие коммерческие успехи. Поддерживает его и привлекательный нарратив об изобилии и власти над природой, которую принесут нам новые технологии, особенно искусственный интеллект со своими безграничными возможностями. У этой олигархии есть харизма – своеобразное обаяние «ботанов». Важнее всего, что эти современные олигархи очаровывают влиятельных опекунов общественного мнения: журналистов, других крупных бизнесменов, политиков, ученых, всевозможных интеллектуалов. Везде, где ведутся споры о важных вопросах, видение новых олигархов всегда на почетном месте, первое у микрофона.
Для всех нас жизненно важно ограничить аппетиты этой новой олигархии – и не только потому, что она угрожает нашему благосостоянию. Настало время действовать, потому что в одном эти лидеры правы: в нашем распоряжении немыслимые прежде орудия. Цифровые технологии безмерно расширили границы того, на что способно человечество. Но эти орудия должны быть употреблены на пользу людям. А этого не произойдет, пока мы не бросим вызов мировоззрению, доминирующему среди нынешней мировой технократии. Это мировоззрение основано на определенном (и неточном) прочтении истории человечества, на превратном понимании того, как влияют на человечество инновации. Давайте же начнем с переоценки этой истории.
О содержании этой книги
Далее в книге мы разовьем идеи, высказанные в этой главе, и дадим экономическому и социальному развитию последнего тысячелетия новую интерпретацию – покажем его как борьбу за направление развития технологий, соперничество между разными типами прогресса, поговорим о том, кто и почему при этом выигрывал, а кто проигрывал. Поскольку предмет нашего исследования – технологии, мы сосредоточимся в основном на тех частях света, где происходили самые важные и значительные технологические прорывы. Сперва это Западная Европа и Китай – в отношении сельского хозяйства; в период индустриальной революции – Британия и США; и, наконец, США и Китай – в цифровых технологиях. На протяжении всей книги мы показываем, как в разное время в разных странах принимались различные решения, а также освещаем влияние технологий, создающихся в передовых экономиках, на весь остальной мир по мере их добровольного или недобровольного распространения.
Глава вторая («Канальное зрение») начинается с исторического примера, показывающего, как мощное видение, поначалу подкрепленное успехами, может завести нас в тупик. Успех французских инженеров в создании Суэцкого канала резко контрастирует с позорным провалом в Панаме, где они попытались применить те же идеи. Фердинанд де Лессепс убедил тысячи инвесторов и инженеров поддержать неработающий план постройки канала на уровне моря через Панамский перешеек, соединяющий Тихий океан с Атлантическим; в результате более 20 000 человек настигла безвременная смерть, еще больше разорились. Эта история – предостережение всем энтузиастам высоких технологий: грандиозное видение, основанное на прошлых успехах, может привести к катастрофе.
Глава третья («Сила убеждения») показывает центральную роль убеждения в том, как мы принимаем значимые для общества решения, в том числе касающиеся новых технологий. Мы объясняем, как сила убеждения укоренена в политических институтах и в способности определять повестку дня, и подчеркиваем важность баланса сил и более широкой выборки голосов, способных уравновесить самоуверенность и эгоцентризм элиты.
Глава четвертая («Как взращивают нищету») применяет наши основные идеи к эволюции земледельческих технологий с начала оседлого земледелия в эпоху неолита до значительных перемен в организации пахотных земель и технике производства, произошедших в Средние века и раннее Новое время. В этих важнейших для человеческой цивилизации эпизодах мы не находим никаких признаков автоматического «прицепного вагона производительности». Серьезнейшие изменения в технике земледелия обогащали и наделяли властью в основном немногочисленную элиту, а тем, кто работал на земле, не давали почти ничего, ведь у крестьян не было ни политической, ни общественной власти, а видение элит не включало в себя заботу о простом народе.
В главе пятой («Революция людей среднего рода») мы переосмысляем индустриальную революцию, одно из важнейших экономических преобразований в мировой истории. Об индустриальной революции написано очень много, но в исследованиях часто недооценивается новое видение людей, ставших локомотивом перемен, – предпринимателей, бизнесменов, представителей вышедшего на первый план среднего класса. Их взгляды, их мечты коренились в общественных переменах, которые начиная с XVI–XVII веков вывели англичан «среднего слоя» на арену истории. Двигателем индустриальной революции стали амбиции этих новых людей, жаждущих сколотить состояние и добиться высокого положения в обществе; однако их видение было очень далеко от инклюзивного. Мы обсудим, как шли политические и экономические перемены и как в соответствии с ними рождалось новое представление о том, кто и как способен повелевать природой.
Глава шестая («Жертвы прогресса») обращается к последствиям этого нового видения. Она объясняет, каким образом первая фаза индустриальной революции ввергла большинство людей в бедность и бесправие: это стало результатом серьезного предубеждения в пользу автоматизации и того, что в вопросах новых технологий и заработной платы рабочие не имели права голоса. Не только на экономические условия жизни, но и на здоровье и независимость значительной части населения индустриализация оказала разрушительный эффект. Эта ужасная картина начала меняться лишь во второй половине XIX века, когда обычные люди, организовавшись, сумели настоять на экономических и политических реформах. Перемены в обществе изменили направление развития технологий и подняли зарплаты. Но это была лишь скромная победа; на пути к общему процветанию западным странам предстоял еще долгий путь.
