Это не то же самое, что заменить телефонистку автоматом. Кстати, вы знаете, откуда вообще появилась эта идея? Элмон Строуджер был владельцем похоронного бюро в Канзас-Сити. Его бизнес терпел убытки из-за недобросовестной конкуренции. Причиной проблемы были телефонистки, которые соединяли клиентов не с его компанией, а с конкурирующей[49 - Источник данных: https://www.sciencemuseum.org.uk/objects-and-stories/goodbye-hello-girls-automating-telephone-exchange. Дата обращения: 1 ноября 2023 г.]. Это и натолкнуло Строуджера на идею исключить человека из процесса соединения, чтобы никто не мог совершать подобных манипуляций. Так он создал систему прямого соединения абонентов. Как видите, Строуджером двигало не альтруистическое желание избавить людей от этого труда. Эта профессия не считалась бременем. Даже наоборот – именно возможность устроиться телефонисткой позволяла многим женщинам в ХХ веке хорошо зарабатывать. Кто знает, как бы эта индустрия развивалась дальше, если бы не перешла дорогу предприимчивому и изобретательному владельцу похоронного бюро.
Когда мы слышим, что нейросети заменят всех так же, как в свое время автоматизация заменила телефонисток, мы попадаем в ловушку, потому что не сравниваем подобное с подобным. Мы сравниваем работу в условиях низкого уровня неопределенности и невысокой цены ошибки (Строуджер бы с этим поспорил) с прямо противоположным набором условий.
В публичное поле легко просачиваются и быстро распространяются новости об успехах нейросетей. Мне все больше кажется, что самый простой способ стать спикером на какой-нибудь модной московской конференции в 2023 году – это заявить тему в стиле «Я уволил своего эсэмэмщика и заменил его на нейросеть». Такое привлекает внимание. Люди не публикуют статьи в стиле «Я попросил нейросеть написать за меня экспертную статью, она сделала какую-то ерунду, в итоге я отказался от идеи и написал сам».
Вернемся к теме юристов. Уже есть случаи проникновения нейросетей в их работу. И не все так гладко, как хотелось бы. В США прецедентное право: суды во многом опираются на вынесенные ранее решения по аналогичным делам. В этой связи важной задачей в рамках подготовки правовой позиции является поиск прецедентов.
Питер ЛоДука, юрист из Нью-Йорка, был пойман на использовании фальшивых ссылок на решения других судов по аналогичным делам[50 - Источник данных: https://www.bbc.com/news/world-us-canada-65735769. Дата обращения: 1 ноября 2023 г.]. Когда стали разбираться, выяснили, что исследованием вопроса занимался его коллега – Стивен Шварц. Когда его допросили, выяснилось, что тот… прибегнул к помощи ChatGPT. Эта нейросеть широко известна своей способностью «выдумывать» ссылки на несуществующие источники. В этом случае она и предоставила юристу ссылки на дела, которых никогда не было. Информацию не перепроверили, юридическая фирма нажила себе проблемы. При этом мы говорим о ситуации, в которой человек все еще находился над контуром управления, то есть сгенерированные нейросетью материалы автоматически не направлялись в суд. В Техасе судья по имени Брэнтли Старр и вовсе обязал всех выступающих в суде открыто заявлять, если в процессе подготовки они использовали нейросети[51 - Источник данных: https://www.txnd.uscourts.gov/judge/judge-brantley-starr. Дата обращения: 1 ноября 2023 г.].
Давайте я попробую предложить другой нарратив для осмысления тех же происходящих сейчас процессов, а вы наблюдайте, как меняется ваше отношение к перспективам человечества.
Один из самых видных философов ХХ века Маршалл Маклюэн в своей работе «Понимание медиа: внешние расширения человека[52 - Маклюэн М. Г. Понимание медиа: Внешние расширения человека/ пер. с англ. В. Николаева.– 5-е изд., испр. – М.: Кучково поле, 2023.]» предлагает воспринимать прогресс как процесс расширения границ наших тел. Он пишет: «Расширение наших телесных поз и движений посредством вынесения их наружу постоянно вытекает из нашего стремления к увеличению власти и могущества. Вся суть утвари и инструмента состоит в капитуляции между этим телесным напряжением посредством расширения тела вовне».
Проиллюстрирую эту мысль примерами:
• Скорость наших ног ограничена, но у нас есть потребность к быстрому перемещению. Мы выносим ее вовне, создавая колесо. Человек не может бежать со скоростью 200 км/час. «Феррари» до такой скорости разогнаться может. В понимании Маклюэна не стоит разграничивать водителя и «Феррари». «Феррари» в данном случае выступает в роли продолжения тела ее водителя.
• Мы не можем крикнуть так, чтобы нас услышали на соседнем континенте. Но потребность в передаче указаний есть. Так человечество изобрело письменность и носители, на которые можно что-то записать и отправить с гонцом.
• У нас есть потребность в обогреве, но способность наших тел сохранять тепло ограничена. Мы «выносим эту потребность вовне», создавая одежду.
Этот процесс «расширения тела вовне» продолжается до сих пор. Получившие в ХХ веке распространение новые способы коммуникации и передачи информации Маклюэн считал инструментами расширения нашей центральной нервной системы.
Если хотите более современный пример, то давайте поговорим о памяти человека. Она ведь тоже выносится вовне. Ваша память в сегодняшнем мире – это ваша голова + память вашего компьютера + память вашего телефона + облачное хранилище и т. д. Эти элементы образуют целостную систему. Память наших дальних предков в этом смысле была в разы меньше.
Для понимания тезиса предложу простой мысленный эксперимент: представьте, что вы полностью очистили память телефона и домашнего компьютера. Как ощущения? Некоторые люди говорят, что это бы воспринималось как ампутация, и логика в их словах есть. Ощущение действительно может быть такое, будто бы человека лишили важной части тела. Кстати, ровно из-за этого Илон Маск уже называет людей киборгами. Он считает, что ими нас делает тот самый факт передачи части нашей памяти компьютерам[53 - @elonmusk. https://clck.ru/39aQod (https://clck.ru/39aQod). Дата обращения: 1 ноября 2023 г.].
Создание нейросетей – это, по сути, акт еще одного расширения нашего тела. Мы нашли способ вынести вовне черновую мыслительную работу. Вот и все. Поэтому нужно думать не о битве ИИ и человека за одно и то же рабочее место. Нужно думать о том, что:
• Дизайнеры теперь могут работать не только с теми концептами, что вышли из-под их пера, теперь они вольны передать нейросетям черновую работу, порождая сотни концептов в час. В итоге клиенту из большего количества вариантов проще выбрать оптимальный. А дизайнер, освобожденный от нетворческой рутины, может успешнее воплотить выбранную идею в жизнь.
• Переводчики теперь могут не тратить кучу времени на банальную перепечатку слов на другом языке, а, например, концентрировать свое внимание на сложных местах в художественных текстах, думая о том, какая метафора в родном языке точнее передаст замысел иностранного автора.
• Юрист теперь сможет быстрее обрабатывать первичную документацию, чтобы сфокусироваться на выработке правовой позиции.
Дело не в нейросетях как таковых. Дело в том, что мы наблюдаем очередное расширение масштаба человека. Как вам такой нарратив?
Я считаю, что правильнее сейчас вести разговор не о смерти профессий, а о сжатии сегментов рынков. Переводчики, копирайтеры и дизайнеры будут нужны. Работы может поубавиться у тех, кто выполнял исключительно простые задачи. Такие специалисты вряд ли будут востребованы в том же количестве, что и сейчас. Стоимость черновой работы кратно упадет. Но человеку все равно нужен будет человек, отвечающий перед ним за качество перевода, за осмысленность выбора именно этого логотипа (из 500 черновиков, подготовленных нейросетью), за успех в судебном процессе. Правильнее говорить не о вытеснении искусственным интеллектом и нейросетями людей с рынка труда, а о вытеснении тех, кто не научится ими пользоваться.
Я не устаю удивляться тому, какие возможности современные технологии открывают перед небольшими креативными командами. Сооснователь студии DreamWorks Джеффри Катценберг предположил[54 - Bloomberg Television. https://www.youtube.com/watch?v=fkJlwjKdxnI. Дата обращения: 1 ноября 2023 г.], что ИИ может снизить затраты на производство мультфильмов-блокбастеров на 90%. При этом он отметил, что ИИ останется только исполнителем. В основе творческих проектов все равно будет лежать креативность человека. Представьте себе мир, в котором три-пять старшеклассников могут сами спродюсировать мультфильм уровня «Мадагаскара» или WALL-E. Лично меня такой образ будущего вдохновляет.
Как видите, мы говорим о том же процессе технологической трансформации. Вопрос только в том, какой шаблон для интерпретации мы применяем. В данном примере я использовал два разных нарратива: «технологии = крах карьеры для многих из нас» и «технологии = расширение масштаба человека». Какой нарратив использовать – решайте сами.
?
3. Машины вскоре научатся предсказывать поведение каждого из нас
В своей знаковой работе Homo Deus[55 - Юваль Ной Харари. Homo Deus. Краткая история будущего. Издательство «Синдбад», 2018.] Юваль Ной Харари отмечает, что человек – это собрание разных алгоритмов и что теоретически внешний алгоритм вполне способен познать нас лучше, чем мы сами когда-либо познаем себя. Схожие тезисы можно встретить и в других источниках. Так, Евгений Черешнев в своей книге «Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта[56 - Eвгений Черешнев. Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта. – М.: Альпина Паблишер, 2022.]» пишет, что с точки зрения ИИ человек – это база данных, а все отличия людей друг от друга – только параметры базы данных.
Мы с вами уже знаем: чтобы стать полноценным нарративом, эти суждения должны быть дополнены историями из реальной жизни.
Житель Миннеаполиса начал регулярно находить у себя в почтовом ящике скидочные купоны от сети магазинов Target. Проблема в том, что это были скидочные купоны на вещи для беременных. С мужчиной проживали жена и дочь. Жена не была беременна, а дочери еще не исполнилось 18 лет. Он пожаловался в магазин, но позже выяснилось, что дочь действительно беременна. Система аналитики магазина узнала об этом раньше, чем отец девушки. Алгоритм смог определить поведенческий профиль женщин на раннем сроке беременности. Поведение дочери героя истории этому профилю соответствовало[57 - Источник данных: https://www.hse.ru/ma/economicanalysis/admission/news/551312498.html. Дата обращения: 1 ноября 2023 г.]. В 2013 году мир активно обсуждал исследование[58 - Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior. Proc Natl Acad Sci U S A. 2013 Apr 9;110 (15):5802—5. doi: 10.1073/pnas.1218772110. Epub 2013 Mar 11. PMID: 23479631; PMCID: PMC3625324.https://pubmed.ncbi.nlm.nih.gov/23479631/], авторы которого выяснили, что по лайкам человека в социальных сетях можно легко вычислить его сексуальную ориентацию, этническую принадлежность, политические взгляды и т. д.
Вот и все. Прямо на наших глазах складывается нарратив. Он подводит нас к выводу: если разум человека – это, по сути, база накопленных за время его жизни данных и алгоритм их обработки, то власть будет принадлежать тем, кто сможет ее расшифровать. Данные становятся новой нефтью. По оценкам[59 - Источник данных: https://www.forbes.com/sites/johanmoreno/2021/08/27/google-estimated-to-be-paying-15-billion-to-remain-default-search-engine-on-safari/?sh=a8c6943669b0. Дата обращения: 1 ноября 2023 г.] Forbes, в 2021 году Google заплатил Apple приблизительно 15 миллиардов долларов за право быть основным поисковым сервисом на устройствах компании. Компания Telly (https://www.freetelly.com/) предлагает людям бесплатные телевизоры за право не только показывать им рекламу, но и собирать данные о том, что люди смотрят и во что играют[60 - Источник данных: https://www.freetelly.com/bdpp. Дата обращения: 1 ноября 2023 г.]. Проведенный в 2018 году опрос на сайте PCMag. сom показал, что 44% респондентов готовы делиться персональными данными в обмен на бесплатный Wi-Fi[61 - Источник данных: https://uk.pcmag.com/news/118170/would-you-trade-your-personal-data-for-free-online-services. Дата обращения: 1 ноября 2023 г.].
Все эти издержки не имели бы смысла без нарратива о том, что с достаточным объемом данных поведение человека становится предельно предсказуемым. Этот нарратив – мощная штука, если тебе нужны инвестиции под свой data-проект. Или котировки акций IT-компании необходимо поддержать. Алексей Андреев в своей книге «Футурология: Краткий курс[62 - Алексей Андреев. Футурология: Краткий курс. 2023.]» вводит интересные в контексте нашего рассуждения термины – «Рекламная футурология» или «Футуромаркетинг». Если хочешь продать какое-то новшество, нужно сначала продать образ мира будущего, в котором это новшество раскрыло все свои достоинства, а связанные с ним риски/недостатки выведены за пределы дискурса. В кого бы вы инвестировали при прочих равных: в производителя обуви или в технологического гиганта, который в будущем сможет получить власть над умами людей? Я так и думал.
Вспоминается сериал «Мир Дикого Запада». Одна из ключевых тем – та самая «расшифровка» человека машинами. В третьем сезоне даже есть сцена, в которой андроид приводит героя на пирс и сообщает ему, что по расчетам алгоритма ровно в этом месте он в будущем покончит с собой. Так себе перспектива.
Проблема в том, что информация распространяется неравномерно. Мы много слышим об успехах технологий «расшифровки» людей. Так ли часто в новостные ленты просачиваются новости о провалах? Хочу рассказать историю о департаменте полиции в Нью-Джерси. Они решили внедрить систему изучения статистических данных и выявления локаций, в которых с наибольшей вероятностью будут совершаться преступления. За все время эксплуатации система сделала 23 тысячи 631 прогноз. Ее точность составила всего лишь около 1%.[63 - Источник данных: https://www.wired.com/story/plainfield-geolitica-crime-predictions/. Дата обращения: 1 ноября 2023 г.]
Вы ознакомились с фрагментом книги.
Для бесплатного чтения открыта только часть текста.
Приобретайте полный текст книги у нашего партнера:
