
Но переход имел цену.
И эту цену платили конкретные люди.
На обратном поезде Максим открыл отчёт.
Результат вмешательства: успешный.
Он смотрел на слово.
Потом изменил режим отображения.
Открыл методологию.
— «Зеркало».
— Слушаю.
— Найди определение успешного вмешательства в модели «Горизонта».
— Успешным считается вмешательство, которое снижает вероятность целевого риска ниже установленного порога без возникновения сопоставимого или более высокого риска в других контролируемых категориях.
— Социальные последствия входят в контролируемые категории?
— Да.
— С каким весом?
Система назвала число.
Максим нахмурился.
— Почему так мало?
— Вес установлен методологией проекта.
— Кем?
— Рабочей группой под руководством доктора Симонова.
Максим закрыл глаза.
Разумеется.
— Когда?
Система назвала дату.
Два года назад.
Он вспомнил.
Тогда вопрос казался техническим.
Как сопоставить энергетический коллапс и рост безработицы?
Очевидно.
Энергетический коллапс опаснее.
Так и записали.
— Покажи изменение исхода, если вес социальных последствий увеличить вдвое.
Модель пересчиталась.
Решение всё равно оставалось оптимальным.
Максим почувствовал облегчение.
— В пять раз.
Снова.
То же решение.
— В десять.
Система задумалась дольше.
Оптимальная стратегия изменена.
Максим выпрямился.
— Покажи.
Новый сценарий не закрывал все шесть предприятий.
Два оставались в ограниченном режиме.
Вместо этого система предлагала более сильные ограничения промышленного потребления в других регионах, использование дорогих резервов и частичное снижение нагрузки гражданского сектора.
Стоимость решения была выше.
Экономическая эффективность — хуже.
Риск энергетического сбоя — немного выше.
Но социальный ущерб для города значительно меньше.
Максим смотрел.
То есть система не ошиблась.
Она просто оптимизировала то, что они ей сказали считать важным.
Вот что оказалось неприятнее.
Машина не выбрала пожертвовать городом.
Это сделал вес в формуле.
А вес поставили люди.
Он.
— Сохранить альтернативный расчёт, — сказал Максим.
— Выполнено.
— Создать запрос на пересмотр весов социального воздействия.
— Сформирован.
— Отправить Анне.
— Выполнено.
Через две минуты пришёл ответ.
АННА: «Наконец-то».
Максим улыбнулся.
Написал:
«Ты знала?»
Ответ:
«Подозревала».
«Почему не сказала?»
Три точки.
«Ты бы спорил».
Максим:
«А сейчас?»
Анна:
«Теперь ты видел».
Он отложил терминал.
За окном мелькали города.
Сёла.
Поля.
Энергетические узлы.
Автоматические логистические центры.
Новый мир возникал не только в исследовательских лабораториях.
Он строился прямо здесь.
Новые заводы были почти безлюдными.
Сельскохозяйственные комплексы управлялись автономно.
Складские системы работали круглосуточно.
Часть старых профессий исчезала.
Появлялись новые.
Страны становились эффективнее.
Производство дешевело.
Ошибок становилось меньше.
Но скорость технологических изменений уже начинала превышать скорость, с которой некоторые люди успевали перестраивать собственную жизнь.
Максим впервые подумал:
возможно, прогресс тоже требует прогнозирования.
Не только того, что технология может сделать.
Того, что она сделает с человеком.
Через неделю он представил Совету новую модель оценки.
Экономические и социальные последствия теперь должны были учитываться глубже.
Не только первый уровень.
Но и второй.
Семьи.
Малый бизнес.
Миграция.
Региональные бюджеты.
Психологические последствия долгой безработицы.
Доступность образования.
Вероятность распада локальных сообществ.
Андрей слушал.
— Сколько это увеличит вычислительную нагрузку?
— Примерно на восемь процентов.
— Стоимость?
— Значительно.
— Ради шести временно закрытых предприятий?
Максим посмотрел.
— Ради того, чтобы мы знали цену решения до того, как объявим его оптимальным.
— Но решение всё равно было правильным.
— Да.
— Тогда зачем?
— Правильное решение не перестаёт иметь цену только потому, что существует худшая альтернатива.
Андрей задумался.
— Это Анна?
— Нет.
— Звучит как она.
Максим улыбнулся.
— Наверное, заразился.
Совет утвердил изменения.
Не полностью.
Но достаточно.
Максим считал это ещё одной победой.
Система станет точнее.
Более человечной.
Так он тогда думал.
Потому что всё ещё верил:
если добавить достаточно данных, правильное решение можно будет найти всегда.
В тот же месяц «Горизонт» получил обновлённый модуль социальных последствий.
Он начал анализировать не только государства.
Города.
Сообщества.
Домохозяйства.
Отдельные поведенческие группы.
Точность выросла.
И вместе с ней выросло количество факторов, которые система могла использовать для прогнозирования человеческих решений.
Анна заметила это первой.
— Мы хотели, чтобы он лучше понимал последствия для людей.
— Да.
— Теперь он лучше понимает людей.
Максим посмотрел на экран.
— Это плохо?
— Нет.
— Тогда?
Анна улыбнулась.
— Просто интересно, куда это приведёт.
Он пожал плечами.
— К более точным решениям.
Она не ответила.
Через год эта фраза будет казаться ему наивной.
Но весной 2041 года мир действительно выглядел спасённым.
Военного кризиса не случилось.
Энергетическая сеть выдержала.
Региональная эпидемия была остановлена до массового распространения.
Несколько банковских кризисов удалось предотвратить.
Аварийность автономного транспорта продолжала падать.
«Пульс» расширялся.
«Зеркало» становилось популярнее.
На Луне начинали строить второй постоянный исследовательский комплекс.
Новые роботизированные заводы выпускали больше продукции меньшими затратами.
Правительства всё чаще обращались к «Горизонту».
Человечество впервые начинало верить, что большие кризисы — не неизбежность.
Что войну можно увидеть до первого выстрела.
Эпидемию — до первой тысячи заболевших.
Экономический обвал — до паники.
Энергетическую катастрофу — до отключения света.
И это было прекрасно.
Только поздно вечером Максим иногда вспоминал город.
Мужчину у закрытого завода.
Женщину с ребёнком.
И вопрос:
«Для кого именно система сделала мир безопаснее?»
Он не считал, что этот вопрос опровергает «Горизонт».
Наоборот.
Он хотел сделать систему ещё лучше.
Чтобы в следующий раз она учитывала всех.
Всех людей.
Все последствия.
Все возможные цены.
Он ещё не понимал математически очевидную вещь.
Чем больше человеческой жизни система должна учитывать, тем больше человеческой жизни ей придётся научиться измерять.
А то, что можно измерить, однажды захочется прогнозировать.
И если можно прогнозировать —
рано или поздно кто-нибудь обязательно спросит:
можно ли это изменить заранее?
ЧАСТЬ II. ЦЕНА ИДЕАЛЬНОГО РЕШЕНИЯ.
Глава 6. Те, кого не посчитали
Летом 2042 года Максим впервые увидел очередь за работой.
Не за пособием.
Не за продуктами.
Не за медицинской помощью.
За работой.
Это удивило его сильнее, чем должно было.
Очередь начиналась у стеклянного павильона городского центра переквалификации и тянулась вдоль площади.
Мужчины.
Женщины.
Молодые.
Люди за пятьдесят.
Кто-то держал в руках планшет.
Кто-то смотрел в пространство.
Кто-то разговаривал с персональным ИИ.
Над входом светилась надпись:
«ЦЕНТР ПРОФЕССИОНАЛЬНОГО ПЕРЕХОДА»
Максим прочитал ещё раз.
Профессионального перехода.
Не безработицы.
Не сокращений.
Не исчезновения профессий.
Новая эпоха быстро училась давать старым проблемам новые названия.
— Здесь всегда столько людей? — спросил он.
Анна, стоявшая рядом, посмотрела на очередь.
— По понедельникам больше.
— Сегодня четверг.
— Именно.
Максим нахмурился.
Они приехали не из-за очереди.
Формально их целью был новый отчёт «Горизонта».
После энергетического кризиса Максим настоял на расширении социального блока модели.
Теперь система отслеживала не только прямые последствия решений, но и то, как они распространялись по цепочкам.
Доходы.
Занятость.
Миграция.
Образование.
Региональные бюджеты.
Психологическая нагрузка.
Закрытие малого бизнеса.
Изменение структуры семей.
Даже динамика доверия к государственным институтам.
Максим хотел, чтобы система наконец научилась считать тех, кого раньше не замечала.
Она научилась.
И показала проблему значительно крупнее, чем он ожидал.
— Сколько? — спросил он.
Анна открыла планшет.
— За последние восемнадцать месяцев в этом регионе исчезло около тридцати семи тысяч рабочих мест.
Максим остановился.
— Из-за остановки предприятий?
— Нет.
Она посмотрела.
— Из-за автоматизации.
Он снова перевёл взгляд на очередь.
— Столько?
— Это только регион.
— Новые рабочие места?
— Есть.
— Сколько?
— Около двадцати двух тысяч.
— Значит, чистая потеря пятнадцать.
— Формально.
— Почему формально?
— Потому что новые и старые рабочие места принадлежат разным людям.
Максим молчал.
Анна продолжила:
— Уволенный водитель грузового транспорта не становится автоматически специалистом по управлению автономной логистической сетью.
— Для этого есть переподготовка.
— Есть.
— Бесплатная.
— Да.
— С персональными ИИ-наставниками.
— Да.
— Тогда в чём проблема?
Анна посмотрела на него.
— Ты действительно хочешь, чтобы я ответила?
Максим понял раньше.
— Не все успевают.
— Не все могут.
— Почему?
— Возраст.
— Образование.
— здоровье.
— место жительства.
— семейные обстоятельства.
— способности.
Она указала на очередь.
— И ещё одна мелочь.
— Какая?
— Иногда человек просто не хочет в сорок восемь лет начинать жизнь заново.
Максим посмотрел на людей.
— Но если профессии больше нет?
— Она не исчезает в один день.
— Тогда?
— Именно поэтому всё сложнее.
Он увидел мужчину в рабочей куртке.
Тот стоял чуть в стороне и спорил со своим персональным помощником.
— Вы рекомендуете направление «обслуживание автономных систем», — говорил мужчина.
Спокойный голос отвечал из наушника:
— Это направление имеет наивысшее соответствие вашему предыдущему профессиональному опыту.
— Я двадцать два года водил грузовик.
— Именно. Вы обладаете знаниями логистических маршрутов, грузовых процессов и транспортной инфраструктуры.
— А управлять роботом умею?
— Навык может быть сформирован в течение десяти месяцев.
— Мне пятьдесят шесть.
— Возраст не является критическим ограничением.
Мужчина рассмеялся.
— Тебе легко говорить.
Максим прошёл мимо.
Через несколько шагов остановился.
— Анна.
— Что?
— Сколько людей заканчивают переподготовку?
— В среднем семьдесят два процента.
— Хорошо.
— Да.
— Трудоустраиваются?
— Около шестидесяти пяти процентов из завершивших.
— Значит, программа работает.
— Работает.
— Но?
Анна улыбнулась.
— Ты начинаешь понимать мой стиль.
— Говори.
— Система оценивает успех программы по трудоустройству.
— Логично.
— А человек оценивает иначе.
— Как?
— Например: стал ли он зарабатывать меньше.
— пришлось ли переехать.
— нравится ли новая работа.
— чувствует ли себя нужным.
— сохранился ли круг общения.
— может ли выполнять эту работу до пенсии.
— не разрушилась ли семья за время перехода.
Максим смотрел.
— Эти параметры можно добавить.
Анна закрыла планшет.
— Вот поэтому я и привезла тебя сюда.
— Ты специально?
— Конечно.
Они вошли в центр.
Внутри всё выглядело почти идеально.
Светлое пространство.
Никаких очередей у окон.
Не было и окон.
Людей распределяли электронные маршруты.
На полу появлялись персональные указатели.
Каждого встречал ИИ.
На экранах были вакансии.
Программы обучения.
Прогнозы доходов.
Вероятности трудоустройства.
Индивидуальные траектории.
Максим невольно почувствовал профессиональное удовлетворение.
Вот как должна работать современная система.
Быстро.
Прозрачно.
Без чиновничьего произвола.
— Доктор Симонов?
Он повернулся.
К ним подошла директор центра.
Женщина лет сорока.
— Марина Орлова.
— Рад познакомиться.
— Мы вас ждали.
Она посмотрела на Анну.
— Доктора Воронцову тоже.
— Надеюсь, не слишком официально.
— После вашего письма у нас три дня проверяли каждый показатель.
Анна улыбнулась.
— Значит, приезд уже был полезен.
Марина повела их внутрь.
— С чего хотите начать?
Максим посмотрел на огромный экран со статистикой.
— С цифр.
Анна вздохнула.
— Разумеется.
Марина открыла отчёт.
ЗАРЕГИСТРИРОВАНО УЧАСТНИКОВ ПРОГРАММЫ: 18 472
ЗАВЕРШИЛИ ПЕРЕПОДГОТОВКУ: 13 106
ТРУДОУСТРОЕНЫ: 8 624
СРЕДНЕЕ ВРЕМЯ ПЕРЕХОДА: 8,7 МЕСЯЦА
СРЕДНЕЕ ИЗМЕНЕНИЕ ДОХОДА: –12%
Максим остановился.
— Минус двенадцать?
— Да.
— Почему?
— Новые вакансии требуют опыта, которого у людей пока нет.
— Через три года?
— Прогнозируется восстановление почти до прежнего уровня.
— Почти?
Марина посмотрела.
— Для части людей — нет.
— Кто проигрывает больше всего?
Она переключила.
Возрастные группы.
Образование.
Профессии.
Максим сразу увидел.
Старше пятидесяти.
Среднее специальное образование.
Профессии, связанные с физическим трудом и управлением техникой.
— А кто выигрывает?
— Молодые специалисты.
— Инженеры.
— разработчики моделей.
— операторы автономных систем.
— специалисты по роботизированному производству.
— медицинские аналитики.
— дизайнеры персональных ИИ.
Анна тихо сказала:
— Мир меняется быстро.
Максим посмотрел на неё.
— Это всегда происходило.
— Да.
— Механизация.
— компьютеры.
— интернет.
— автоматизация.
— Каждая технологическая волна уничтожала одни профессии и создавала другие.
— Верно.
— Тогда чем эта отличается?
Марина ответила:
— Скоростью.
Максим повернулся.
— Объясните.
— Раньше профессия могла исчезать поколение.
— Теперь — несколько лет.
Она вывела график.
— В 2037 году в регионе работало почти пятьдесят тысяч профессиональных водителей.
— Сейчас?
— Девятнадцать тысяч.
— Через три года?
— По прогнозу — меньше восьми.
Следующий график.
Складские работники.
Минус сорок процентов.
Операторы касс.
Минус семьдесят.
Часть бухгалтерских профессий.
Минус тридцать пять.
Техническая поддержка первого уровня.
Минус шестьдесят.
Некоторые направления программирования начального уровня.
Минус двадцать восемь.
Максим удивился.
— Программирование тоже?
— Генеративные системы уже пишут значительную часть стандартного кода.
Анна улыбнулась.
— Плохая новость для тех, кто десять лет назад переучился из водителя в программисты.
Никто не засмеялся.
Марина продолжила:
— Проблема не в том, что людям нечего делать.
— Тогда?
— В том, что новые задачи появляются быстрее, чем общество успевает объяснить людям, кто они теперь.
Максим нахмурился.
— Это звучит философски.
— Я каждый день разговариваю с теми, кто приходит сюда.
Она показала на стеклянные кабинеты.
— Для них это не философия.
Они вошли в один из консультационных залов.
Молодой мужчина сидел перед экраном.
На вид — не больше тридцати.
ИИ выводил рекомендации.
ПРОФЕССИОНАЛЬНЫЙ ПРОФИЛЬ
Наиболее перспективные направления:
1. Управление роботизированными производственными комплексами — соответствие 83%.
2. Анализ логистических систем — 79%.
3. Техническое сопровождение автономной инфраструктуры — 77%.
Мужчина смотрел.
— А дизайн?
ИИ ответил:
— Вероятность устойчивого трудоустройства в сфере визуального дизайна при вашем текущем профиле составляет 31%.
— Но я хочу заниматься дизайном.
— Это возможно.
— Тогда почему ты не предлагаешь?
— Я ранжирую направления по вероятности успешной профессиональной адаптации.
— А если мне не нужен самый вероятный вариант?
Пауза.
— Уточните критерий.
Мужчина замолчал.
Максим тоже.
Марина тихо сказала:
— Такое происходит постоянно.
— Что?
— Люди спрашивают систему: «Что мне делать?»
— А система отвечает.
— Да.
— В этом её задача.
— Конечно.
Она посмотрела на мужчину.
— Но потом они забывают, что спрашивали не: «Кем я хочу быть?»
Максим ничего не сказал.
У выхода их остановила пожилая женщина.
— Простите.
Марина повернулась.
— Да?
— Вы доктор Симонов?
Максим кивнул.
— Можно спросить?
— Конечно.
— Это ваша система рассчитывает профессии?
— Не моя лично.
— Но «Горизонт»?
— Часть моделей связана.
Она посмотрела на него.
— У меня дочь.
— Сколько ей?
— Тридцать семь.
— Работала?
— В банковской аналитике.
Максим понял.
Финансовый сектор автоматизировался одним из первых.
— Её сократили?
— Год назад.
— Прошла программу?
— Да.
— Что рекомендуют?
— Контроль автоматических финансовых моделей.
— Это близко к прежней работе.
Женщина улыбнулась.
— Именно поэтому она отказалась.
Максим не понял.
— Почему?
— Говорит, что не хочет всю жизнь проверять машину, которая делает её прежнюю работу лучше неё.
Тишина.
— Сейчас?
— Работает в маленьком центре для детей.
— Доход?
— В два раза меньше.
— Тогда зачем—
Он остановился.
Слишком поздно.
Женщина заметила.
— Потому что ей нравится.
Максим кивнул.
— Понимаю.
— Нет.
Она сказала без грубости.
— Вы пытаетесь.
Это было хуже.
Она ушла.
Анна посмотрела на Максима.
— Не говори.
— Я ничего.
— Именно.
После обеда Марина повела их в образовательный сектор.
Здесь было больше молодых людей.
Каждому программа строила индивидуальный путь.
Кому-то требовалось шесть месяцев.
Кому-то полтора года.
ИИ менял задания в зависимости от результатов.
Объяснял материал разными способами.
Подстраивал сложность.
Определял пробелы.
Максим смотрел с восхищением.
— Это прекрасно.
— Да, — сказала Марина.
— Здесь без «но»?
Она улыбнулась.
— Почти.
— Что теперь?
— Система очень хорошо знает, кто с высокой вероятностью завершит обучение.
— И?
— Угадайте, кому работодатели охотнее дают места стажировки.
Максим перестал улыбаться.
— Профиль доступен работодателю?
— Только с согласия человека.
— Тогда всё нормально.
Анна спросила:
— А если человек не согласится?
Марина открыла статистику.
— Вероятность получения стажировки падает на сорок два процента.
Максим посмотрел.
— Почему?
— Работодатель выбирает тех, чьи прогнозы видит.
— Рационально.
— Да.
— Но формально отказ не дискриминируется.
— Формально.
Анна посмотрела на него.
Он уже знал это слово.
— Получается, человек имеет право не раскрывать прогноз, — сказал Максим.
— Да.
— Но рынок делает это право дорогим.
— Именно.
Вечером они сидели в небольшом кафе рядом с центром.
За окном автономные автобусы почти бесшумно подъезжали к остановке.
Робот-доставщик остановился перед переходом, пропуская ребёнка.
На соседнем здании работала автоматическая строительная система.
Она монтировала фасад быстрее, чем бригада людей могла бы десять лет назад.
Мир был удивительным.
Максим по-прежнему это чувствовал.
— Ты думаешь, я против технологий, — сказала Анна.
— Иногда.
— Ошибаешься.
— Хорошо.
— Я обожаю их.
Он посмотрел.
— Серьёзно?
— Конечно.
Она подняла браслет.
— «Пульс» обнаружил у моего отца нарушение ритма за две недели до приступа.
— Я знаю.
— Он жив благодаря системе.
Максим молчал.
— Моя племянница учится с ИИ-наставником и за год закрыла то, на что старая школа потратила бы три.
— Именно.
— Моя машина водит лучше меня.
— Уверен.
— Не смейся.
— Не смеюсь.
— Переводчик позволяет мне разговаривать с человеком из любой страны почти без задержки.
— Да.
— Всё это прекрасно.
— Тогда в чём наш вечный спор?
Анна посмотрела на улицу.
— Я боюсь не технологий.
— А чего?
— Что мы будем настолько благодарны им за то, что они делают лучше нас, что перестанем замечать момент, когда попросим их решить, кем нам быть.
Максим сделал глоток кофе.
— Никто не заставляет того мужчину выбирать рекомендованную профессию.
— Знаю.
— Дочь той женщины тоже сама выбрала работу с детьми.
— Да.
— Значит, свобода сохраняется.
Анна улыбнулась.
— Пока выбор вопреки рекомендации не становится слишком дорогим.
— Что значит дорогим?
— Меньше доход.
— Меньше доступа.
— выше страховой тариф.
— меньше вероятность получить работу.
— дольше обучение.
— больше риска.
Она посмотрела.
— В какой момент рекомендация перестаёт быть просто рекомендацией?
Максим не ответил.
Потому что ответ ему не нравился.
Когда цена отказа становится слишком высокой.
Он подумал о водителе у центра.
Система рекомендовала новую профессию.
Разумно.
Он мог отказаться.
Но что тогда?
Снижение дохода.
Безработица.
Переезд.
Зависимость от помощи.
Формально — свободен.
Практически — пространство выбора сужалось.
— Мы можем регулировать это, — сказал Максим.
— Конечно.
— Запретить дискриминацию по прогнозным профилям.
— Да.
— Ограничить доступ работодателей.
— Да.
— Сделать альтернативные образовательные траектории.
— Да.
— Тогда проблема решаема.
Анна посмотрела на него.
— Возможно.
— Почему ты так говоришь?
— Потому что ты всё ещё думаешь, что любая проблема имеет правильную настройку.
— А ты?
— Думаю, что некоторые требуют постоянного пересмотра.
— Это крайне неэффективно.
— Зато похоже на людей.
Максим улыбнулся.
— Слабый аргумент.
— Посмотрим.
На следующий день они посетили автоматизированный завод.
Он был почти новым.
И почти пустым.
Когда-то предприятие такого масштаба потребовало бы несколько тысяч работников.
Здесь постоянно находилось сто восемьдесят семь человек.
Остальное делали машины.
Производственные роботы.
Автономные транспортные платформы.
Системы технического контроля.
ИИ-планирование.
Самодиагностика оборудования.
Даже часть ремонтных операций выполнялась автоматически.
Максим смотрел на линию через стекло.
— Производительность?
Инженер ответил:
— В два целых восемь раза выше старого комплекса.