ДО НОВОГО МИРА: Последний человек старого порядка

— Это вопрос цены.

— И образования.

— Да.

— Если один ребёнок учится с обычным ИИ-наставником, а у второго дополнительно нейрокоррекция внимания, это всё ещё одинаковые условия?

Максим задумался.

— Пока это эксперимент.

— Знаю.

— Тогда не опережай.

— Это буквально наша работа.

Он улыбнулся.

— Справедливо.

Следующий блок:

ОБРАЗОВАНИЕ

Вот здесь мир изменился особенно сильно.

Почти каждый ребёнок в развитых системах имел персонального ИИ-наставника.

Не вместо учителя.

Формально.

Но часто именно ИИ проводил большую часть индивидуальной работы.

Он видел, где ученик ошибается.

Почему.

Какой способ объяснения подходит.

Когда нужно повторить.

Когда сделать паузу.

Что заинтересовало.

Что вызывает сопротивление.

Как связать новую тему с уже знакомым.

Дети одного возраста всё реже изучали одно и то же одновременно.

— Средняя скорость освоения базовых программ выросла на тридцать четыре процента, — сказала Анна.

— Разрыв между сильными и слабыми?

— Сократился.

— Хорошо.

— Но разрыв между теми, кто пользуется расширенными системами, и базовым уровнем увеличивается.

— Доступ?

— Неравномерный.

— Регулируем.

— Да.

Она переключила.

Профессиональное прогнозирование начиналось всё раньше.

Сначала в шестнадцать.

Потом в четырнадцать.

Теперь некоторые системы предлагали предварительные траектории уже в двенадцать.

— Это слишком рано, — сказал Максим.

Андрей посмотрел.

— Почему?

— Ребёнок ещё меняется.

— Система учитывает.

— Не всё.

— Откуда знаешь?

Максим хотел ответить.

Анна сказала первой:

— Потому что человек и сам не знает, кем станет.

Андрей усмехнулся.

— Это аргумент против прогноза?

— Нет.

— Тогда?

— Против того, чтобы путать прогноз с судьбой.

На экране появился пример.

СОФИЯ, 12 ЛЕТ

Высокая вероятность успешности:

математическое моделирование — 89%.

системная инженерия — 85%.

биоинформатика — 81%.

визуальное искусство — 42%.

Внизу рекомендация:

Рекомендуется усиленная программа математического профиля.

Максим смотрел.

— Что выбрала?

Анна открыла следующий блок.

— Искусство.

— Почему?

— Потому что захотела.

— Родители позволили?

— Да.

— Прогноз успеха?

— Через два года вырос до шестидесяти семи.

Максим удивился.

— Почему?

— Система учитывала предыдущий уровень навыка.

— А мотивация?

— Была недооценена.

— Исправили модель?

— Да.

Андрей улыбнулся.

— Всё. Проблема решена.

Анна посмотрела.

— Ты уверен?

— Если модель ошибается — улучшаем.

— А если после улучшения она будет права в девяноста девяти случаях из ста?

— Тем лучше.

Максим вспомнил Лилию.

А если система действительно учтёт всё?

Он не сказал.

Следующий раздел.

ПЕРСОНАЛЬНЫЕ ИИ

Вот здесь цифры были огромными.

За два года «Зеркало» и его аналоги стали почти универсальными.

Пользователи доверяли им расписание.

Финансы.

Покупки.

Обучение.

Поездки.

Переписку.

Медицинские рекомендации.

Бытовые договоры.

Некоторые юридические процедуры.

ИИ уже мог общаться от имени владельца с другим ИИ.

Договариваться о времени встречи.

Согласовывать цену.

Менять бронирование.

Запрашивать документы.

Сравнивать условия.

Отменять невыгодные договоры.

Люди освобождались от огромного количества мелких задач.

И, судя по опросам, были счастливы.

— Среднее сокращение времени на бытовое администрирование — пять часов в неделю, — сказал Андрей.

— Это впечатляет.

— Вот.

Анна улыбнулась.

— А знаешь, что люди сделали с этими пятью часами?

— Отдыхают.

— Частично.

— Учились?

— Немного.

— Семья?

— Да.

— Хорошо.

— И ещё увеличили потребление цифрового контента почти на два часа.

Андрей рассмеялся.

— Человечество получило свободное время и посмотрело видео.

— Похоже.

Максим улыбнулся.

— Имеют право.

Анна посмотрела.

— Именно.

Но следующим был другой показатель.

ДОЛЯ РЕШЕНИЙ, ПРИНЯТЫХ ПОЛЬЗОВАТЕЛЕМ ПОСЛЕ ПОЛУЧЕНИЯ РЕКОМЕНДАЦИИ ПЕРСОНАЛЬНОГО ИИ: 78%.

Максим остановился.

— Что значит «принятых после»?

— Пользователь спрашивает рекомендацию, затем выбирает один из вариантов.

— И в семидесяти восьми процентах выбирает первый?

— Да.

— Год назад?

— Шестьдесят четыре.

Андрей пожал плечами.

— Системы стали лучше.

— Конечно.

— Тогда логично доверять больше.

Максим смотрел на график.

Люди действительно получали лучшие результаты.

Финансовые ошибки снижались.

Непродуктивные покупки уменьшались.

Пропущенных медицинских назначений становилось меньше.

Лучше планировалось время.

Кредиты выбирались выгоднее.

Маршруты — быстрее.

Люди реже забывали важное.

— Удовлетворённость?

— Растёт.

— Значит, работает.

Анна кивнула.

— Да.

Максим посмотрел.

— Без «но»?

— Есть одно.

— Конечно.

Она вывела дополнительное исследование.

Вопрос: «Как вы приняли последнее значимое финансовое решение?»

Ответы.

По рекомендации ИИ — 42%.

После обсуждения с человеком — 21%.

Самостоятельно — 18%.

Остальные — смешанные способы.

Максим нахмурился.

— Что считается значимым?

— Крупная покупка, инвестиция, кредит, изменение страховки, переезд.

— И?

Анна переключила.

Вопрос: «Почему вы выбрали предложенный вариант?»

Самый частый ответ:

«Потому что система знает лучше».

Максим молчал.

Не:

«показала расчёт».

Не:

«объяснила риски».

Не:

«мне понравился вариант».

Знает лучше.

— Это бытовые решения, — сказал Андрей.

— Пока, — ответила Анна.

Максим посмотрел на неё.

— Вы оба специально?

— Да.

После совещания он встретился с Лилией.

За два года это стало почти регулярным.

Не дружба.

Не формальное сотрудничество.

Скорее постоянный спор, который почему-то никому не надоедал.

Они встречались иногда раз в месяц.

Иногда дважды за неделю.

Иногда не разговаривали несколько месяцев.

Лилия работала над проектами общественной устойчивости и всё чаще участвовала в консультациях по регулированию новых технологий.

В этот день они встретились в кафе возле университета.

У Лилии не было нейроинтерфейса.

Максим однажды спросил почему.

Она ответила:

— Пока мне хватает обычной головы.

Он не понял, шутка это или позиция.

— Видела новый отчёт? — спросил Максим.

— Частично.

— Что думаешь?

— Мир становится потрясающим.

Он улыбнулся.

— Серьёзно?

— Да.

— Ты редко так говоришь.

— Потому что ты обычно рассказываешь мне о проблемах.

— Хорошо. Что тебе нравится?

Лилия начала считать.

— «Пульс».

— Почему?

— Моя мать теперь получает предупреждения о сердечном риске.

— Автономный транспорт.

— Не люблю водить.

— Биопечать.

— Невероятно.

— ИИ-образование.

— При правильных ограничениях — великолепно.

Максим посмотрел.

— Видишь? Мы почти согласны.

— Мы всегда были согласны по технологиям.

— Тогда почему мне кажется, что ты ведёшь борьбу с будущим?

Лилия улыбнулась.

— Потому что тебе удобнее спорить с противником технологий, чем с человеком, который говорит: «Да, это прекрасно. Теперь давайте подумаем о правилах».

— Мы думаем.

— Иногда.

— Постоянно.

— После проблемы.

Максим хотел возразить.

Потом вспомнил профили работодателей.

Право не знать медицинский прогноз.

Образовательные рекомендации.

— Хорошо. Иногда после.

Лилия удивилась.

— Это прогресс.

— Не привыкай.

Она рассмеялась.

Официант-человек принёс им кофе.

Максим посмотрел.

— Здесь всё ещё люди обслуживают?

— Поэтому сюда хожу.

— Робот был бы быстрее.

— Знаю.

— Дешевле.

— Возможно.

— Меньше ошибок.

— Скорее всего.

— Тогда?

Лилия сделала глоток.

— Мне нравится этот официант.

Максим посмотрел.

— Ты его знаешь?

— Нет.

— Тогда как может нравиться?

— Он сегодня перепутал столики.

Максим рассмеялся.

— Очень сильный аргумент в пользу человеческого труда.

— Я не говорю, что ресторан должен сохранять неэффективность ради моего эстетического удовольствия.

— А что говоришь?

— Что не всё лучшее обязано быть самым эффективным.

Максим покачал головой.

— Ты способна превратить даже кофе в политическую теорию.

— Профессиональная деформация.

Он стал серьёзнее.

— Я видел сегодня показатель.

— Какой?

— Семьдесят восемь процентов людей следуют рекомендации персонального ИИ.

— Высоко.

— Потому что рекомендации становятся точнее.

— Разумеется.

— Проблема?

Лилия задумалась.

— Не знаю.

Максим удивился.

— Правда?

— Да.

— Я ожидал лекцию.

— Можно заказать.

— Не надо.

Лилия улыбнулась.

— Сам по себе высокий уровень доверия не проблема.

— Тогда когда становится?

— Когда человек перестаёт понимать, почему согласился.

Максим замер.

— Объясни.

— Если система говорит: «вариант А дешевле на двадцать процентов, имеет меньше риска и лучше соответствует твоей цели», а я выбираю А — прекрасно.

— Да.

— Если она говорит: «выбери А», а я спрашиваю почему и понимаю ответ — тоже.

— А если?

— Если я выбираю А потому, что «она знает лучше», даже не интересуясь основанием...

Она пожала плечами.

— Тогда часть решения уже перестала принадлежать мне.

— Формально принадлежит.

— Я говорю не о законе.

Максим вспомнил опрос.

Потому что система знает лучше.

— Возможно, людям просто не хочется тратить время.

— И это нормально.

— Тогда снова нет проблемы.

— Возможно.

Он посмотрел.

— Ты специально.

— Конечно.

Пауза.

— Максим, ты всё время хочешь найти точку, после которой я скажу: «Вот. Теперь технология плохая».

— И?

— Её может не быть.

— Тогда чего мы боимся?

— Не резкого перехода.

— А?

— Миллиона маленьких удобств.

Он молчал.

Лилия продолжила:

— Ни одно из них не отнимает свободу.

— Но каждое делает самостоятельное решение чуть менее необходимым.

— И что?

— Ничего.

— Пока человек всё ещё умеет принимать решение сам.

Максим улыбнулся.

— Я умею.

— Уверена.

— Проверим?

— Как?

Он посмотрел на «Зеркало».

— Завтра оно рекомендует мне расписание.

— И?

— Сделаю наоборот.

Лилия рассмеялась.

— Это не свобода.

— Почему?

— Ты всё равно позволишь системе определить своё поведение.

— Только отрицательно.

Максим замер.

Хорошо.

— Тогда что является свободой?

— Не доказывать машине, что ты свободен.

— А?

— Иногда послушаться.

— Иногда нет.

— И в обоих случаях понимать, почему.

Максим смотрел на неё.

— Слишком просто.

— Лучшие вещи часто такие.

— Не уверен.

— Вот и хорошо.

Вечером Максим возвращался домой пешком.

Редкость.

«Зеркало» сразу сообщило:

— Пеший маршрут увеличит время прибытия на двадцать две минуты.

— Знаю.

— Вероятность дождя через шестнадцать минут — 61%.

— Вижу.

— Рекомендую транспорт.

Максим посмотрел на небо.

Облака.

Тёплый воздух.

Ветер.

— Нет.

— Причина?

Он подумал о Лилии.

Понимать, почему.

— Хочу пройтись.

— Принято.

Он пошёл.

Через четырнадцать минут начался дождь.

Максим рассмеялся.

Система была права.

Он промок.

Опоздал домой.

Пришлось сушить одежду.

Решение было объективно хуже.

И почему-то совершенно не беспокоило.

На следующий день он рассказал Анне.

— Ты гулял под дождём?

— Да.

— Зачем?

— Хотел.

Она посмотрела подозрительно.

— Лилия.

— Почему сразу Лилия?

— Потому что раньше ты бы проверил радар осадков.

— Я проверил.

— И всё равно пошёл?

— Да.

Анна улыбнулась.

— Опасный путь.

Но почти сразу стала серьёзной.

— У нас новый отчёт.

— Что?

Она передала экран.

ОЦЕНКА ИЗМЕНЕНИЯ ПОВЕДЕНЧЕСКИХ МОДЕЛЕЙ ПРИ ИСПОЛЬЗОВАНИИ ПЕРСОНАЛЬНЫХ ИИ

Максим открыл.

Пользователи, которые более трёх лет регулярно следовали рекомендациям ИИ, действительно принимали решения быстрее.

Реже совершали финансовые ошибки.

Лучше соблюдали медицинские рекомендации.

Эффективнее обучались.

Имели более стабильные показатели профессионального развития.

Но был ещё один параметр.

Среднее время самостоятельного анализа альтернатив при отсутствии рекомендации: –31%.

Максим перечитал.

— Что это значит?

— Когда система не даёт ответ, люди дольше испытывают дискомфорт, но меньше времени сами рассматривают варианты.

— Почему?

— Исследователи предполагают: привыкли к внешней структуре выбора.

Максим молчал.

— Это обратимо?

— Неизвестно.

— Насколько массово?

— Пока небольшая выборка.

— Тогда рано делать выводы.

— Да.

Но Анна не убирала экран.

— Что?

— Есть ещё.

Следующая строка.

В группе пользователей с высоким уровнем доверия к ИИ частота вопроса «что рекомендуется?» превышает частоту вопроса «какие существуют варианты?» в 2,7 раза.

Максим смотрел.

Маленькое различие.

Почти лингвистическое.

Но он почувствовал тревогу.

Какие существуют варианты?

И:

Что рекомендуется?

Первый вопрос оставлял пространство.

Второй искал ответ.

— Передай исследование Лилии.

Анна улыбнулась.

— Сам не можешь?

— Могу.

— Тогда почему мне?

— Потому что ты улыбаешься.

— Ладно.

Она отправила.

Через двадцать минут пришёл ответ Лилии.

Всего одна строка:

«Мир без ожидания может незаметно стать миром, который разучился ждать собственного решения».

Максим перечитал.

Потом ещё раз.

— Слишком драматично, — сказал он.

Анна посмотрела.

— Возможно.

Он закрыл сообщение.

В тот же день «Горизонт» завершил новый долгосрочный прогноз.

Он касался развития технологической инфраструктуры до 2055 года.

Экономические показатели были впечатляющими.

Средняя производительность росла.

Продолжительность здоровой жизни увеличивалась.

Энергетические потери снижались.

Автоматизированное производство удешевляло товары.

Образование становилось персональнее.

Количество предотвратимых аварий сокращалось.

Человечество становилось богаче.

Здоровее.

Безопаснее.

На последней странице находился показатель, который никто из аналитиков пока не считал главным.

ДОЛЯ РЕШЕНИЙ ПОВСЕДНЕВНОЙ ИНФРАСТРУКТУРЫ, НЕ ТРЕБУЮЩИХ НЕПОСРЕДСТВЕННОГО УЧАСТИЯ ЧЕЛОВЕКА

2040 — 23%.

2042 — 37%.

2044 — 51%.

Прогноз 2050 — 72%.

Максим смотрел.

Половина.

Уже сейчас половина инфраструктурных решений происходила без человека.

Свет.

Транспорт.

Энергия.

Доставка.

Производство.

Маршруты.

Часть медицинского контроля.

Миллиарды решений каждую секунду.

И это было прекрасно.

Потому что человеку не нужно было решать, когда переключить трансформатор.

Как распределить трафик.

Какой робот должен взять груз.

Как изменить режим вентиляции здания.

Как перестроить очередь поставок.

Он освобождался от ненужного.

Вопрос был только в одном.

Где заканчивается ненужное?

Максим открыл методологию.

— «Горизонт».

— Слушаю.

— Как ты классифицируешь решение как требующее участия человека?

— По текущим нормативным ограничениям, уровню риска, наличию этической или правовой неопределённости и установленному протоколу.

— А если нормативные ограничения убрать?

Короткая пауза.

— Значительная часть решений может быть автоматизирована дополнительно.

— Насколько?

— По текущей оценке — до 84%.

Максим почувствовал холод.

— А оставшиеся шестнадцать?

— Требуют человеческого решения из-за недостаточной формализации цели, конфликтующих ценностей либо обязательного нормативного подтверждения.

— Если научиться формализовать ценности?

Пауза стала длиннее.

— Доля может снизиться.

Максим молчал.

— До скольких?

— Недостаточно данных.

Он закрыл окно.

Ответ почему-то не понравился.

Вечером на улицах уже почти не было людей, ожидающих транспорт.

Машины появлялись заранее.

Рестораны прогнозировали заказы.

Магазины доставляли покупки раньше, чем заканчивался привычный запас.

«Пульс» замечал болезни до симптомов.

ИИ-наставники видели пробел в знаниях до плохой оценки.

«Зеркало» предупреждало о невыгодном решении ещё до того, как человек его принял.

Мир становился миром без ожидания.

И люди были благодарны.

Максим тоже.

Потому что ожидание часто означало потерянное время.

Боль.

Опасность.

Неопределённость.

Только спустя много лет он поймёт:

иногда между вопросом и ответом человеку всё-таки необходимо немного времени.

Не потому, что система медленная.

Потому что именно в этом промежутке человек успевает понять, чего хочет сам.