ДО НОВОГО МИРА: Последний человек старого порядка
— Они давно быстрее.
— Не то, что они будут точнее.
— Во многих областях уже точнее.
Она посмотрела на аудиторию.
— Самое опасное — если общество начнёт путать точность решения с правом принимать решение.
Максим записал фразу.
Сам не понял зачем.
Через двадцать минут выступление закончилось.
Он не ушёл.
Хотя «Зеркало» уже прислало уведомление:
Продолжительность пребывания превысила рекомендованную на 47 минут.
Максим отключил.
Лилия разговаривала с группой людей.
Он ждал.
Это раздражало.
Он не любил ждать.
Особенно когда алгоритм мог бы заранее подобрать момент.
Через несколько минут она подошла сама.
— Доктор Симонов.
— Максим.
— Хорошо. Лилия.
Они пожали руки.
— Вы специально построили выступление вокруг «Горизонта»?
— Частично.
— Почему не сообщили?
— Чтобы вы пришли?
— Я пришёл случайно.
— Тогда хорошо, что не сообщила.
Он усмехнулся.
— Вы считаете нашу систему опасной?
— Нет.
— Тогда что считаете опасным?
— Нас.
— Людей?
— Да.
— Очень оригинально.
Лилия улыбнулась.
— Я не претендую на оригинальность.
Они отошли к окну.
Дождь почти закончился.
— Вы читали мои работы? — спросила она.
— Несколько.
— И?
— Иногда слишком много философии.
— От человека, который создал проект «Человек после необходимости», это звучит интересно.
Максим удивился.
— Откуда вы знаете?
— Исследовательская программа публичная.
— Недавно.
— Я читаю быстро.
— Тогда что думаете?
— Название хорошее.
— Это Анна.
— Я догадалась.
— Вы знакомы?
— Заочно.
Максим смотрел.
— Что?
— Ничего.
— Сегодня все говорят «ничего».
— Возможно, проблема в вас.
Он рассмеялся.
— Отлично.
Лилия тоже улыбнулась.
Несколько секунд они молчали.
— Почему вы этим занимаетесь? — спросил Максим.
— Чем?
— Свободой выбора в технологических системах.
Она задумалась.
— Потому что когда мне было девятнадцать, система поступления в университет рекомендовала мне инженерную математику.
— И?
— Соответствие — девяносто два процента.
— Впечатляет.
— Да.
— Вы не пошли.
— Нет.
— Почему?
— Не хотела.
Максим улыбнулся.
— И всё?
— А должно быть сложнее?
— Какая была рекомендация по вашей нынешней области?
— Пятьдесят восемь.
— Значит, система ошиблась.
— Нет.
Он нахмурился.
— Почему?
— Я действительно очень хороша в математике.
— Тогда—
— Она правильно оценила, где мне было бы легче добиться успеха.
Лилия посмотрела.
— Но я не спрашивала, где мне будет легче.
Максим замер.
— А что спрашивали?
— Кем хочу стать.
— Система этого не знала.
— Именно.
— Современные персональные модели знают желания намного лучше.
— Вы уверены?
— Лучше, чем тогда.
— Это не одно и то же.
Он улыбнулся.
— Хорошо.
— Что?
— Теперь понимаю, почему вы раздражаете.
— Это комплимент?
— Пока нет.
Она рассмеялась.
— А вы всегда так уверены, что человеку нужна система?
— Нет.
— Правда?
— Я уверен, что человеку полезна система, которая показывает последствия.
— Это другое.
— Что?
— «Показывает».
— А не?
— «Выбирает».
Максим кивнул.
— С этим я согласен.
Лилия посмотрела внимательно.
— Сейчас.
— Что значит «сейчас»?
— Ничего.
Он уже слышал это раньше.
— Вы с Анной точно не знакомы?
— Теперь хочу познакомиться.
К ним подошёл официант-робот.
Лилия взяла воду.
Максим отказался.
— «Горизонт» недавно предотвратил энергетический кризис, — сказала она.
— Вы читали отчёт.
— Да.
— Тогда знаете, что решение было успешным.
— Да.
Максим ожидал продолжения.
— И?
— Ничего.
— Лилия.
Она улыбнулась.
— Хорошо.
— Я была в одном из закрытых городов.
Максим перестал улыбаться.
— В каком?
Она назвала.
Том самом.
— Когда?
— Через два месяца после остановки производства.
— Зачем?
— Исследовала социальную адаптацию.
— Мы тоже были.
— Знаю.
— Откуда?
— Люди рассказывали.
Максим почувствовал странное неудобство.
— И что вы думаете о решении?
— Оно было правильным.
Он удивился.
— Вы серьёзно?
— Да.
— Тогда...
Она посмотрела.
— Вы очень хотите, чтобы я оказалась против технологии.
Максим молчал.
— Так было бы проще спорить.
— Возможно.
— Но я не против.
— Тогда чего вы хотите?
Лилия ответила не сразу.
— Чтобы тот мужчина у закрытого завода тоже существовал внутри правильного решения.
Максим замер.
— Какой мужчина?
— Пятьдесят с небольшим.
— Работал там больше двадцати лет.
— Жена — в заводской столовой.
— Сын держал мастерскую.
Максим смотрел.
— Вы разговаривали с ним.
— Да.
— Что он сказал?
Лилия улыбнулась печально.
— «Для кого именно система сделала мир безопаснее?»
Тишина.
Максим почувствовал почти физический удар.
— Он сказал мне то же самое.
— Я знаю.
— Он рассказал?
— Да.
Максим отвернулся к окну.
— Решение всё равно было правильным.
— Да.
— Вы повторяете это.
— Потому что хочу, чтобы вы услышали.
Он повернулся.
— Что именно?
— Я не пытаюсь доказать, что правильных решений не существует.
— Тогда?
— Что слово «правильное» не должно позволять нам перестать смотреть на тех, кто заплатил цену.
Максим молчал.
Это было близко к тому, к чему он уже пришёл сам.
И именно поэтому раздражало меньше.
— Мы изменили модель социальных последствий.
— Видела.
— Теперь учитываем больше факторов.
— Хорошо.
— Значит, проблема решается.
Лилия посмотрела на него долго.
— Максим.
— Да?
— А если однажды система учтёт действительно всё?
— Это невозможно.
— Допустим.
— Хорошо.
— Все последствия.
— Всех людей.
— Все вероятности.
— И скажет вам: вот единственно оптимальное решение.
— Что тогда?
Он ответил:
— Посмотрю.
— А если оно потребует ограничить выбор человека?
— Насколько?
Она улыбнулась.
— Вы опять хотите параметр.
— Конечно.
— Потому что без параметра не существует решения.
— Именно.
Лилия покачала головой.
— Вот поэтому мы ещё поговорим.
— Это угроза?
— Прогноз.
Он рассмеялся.
— Вероятность?
— Высокая.
Они обменялись контактами.
«Зеркало» сразу обработало новый профиль.
Когда Максим вышел из здания, на персональном экране появилось уведомление:
НОВЫЙ КОНТАКТ: ЛИЛИЯ НЕСТЕРОВА
Оценочная вероятность профессионально значимого взаимодействия в течение ближайших 12 месяцев: 78%.
Максим остановился под навесом.
Утром система считала вероятность профессиональной пользы всего вечера одиннадцать процентов.
Теперь — семьдесят восемь.
Он улыбнулся.
— Ты ошиблась.
«Зеркало» ответило:
— Первоначальная оценка была основана на доступных данных до возникновения нового контакта.
— То есть это не ошибка?
— Оценка была корректной в рамках исходной модели.
— Удобно.
— Уточните.
— Ничего.
Максим пошёл к машине.
Но перед тем как сесть, посмотрел на уведомление ещё раз.
78%.
Он нажал:
— Скрыть прогноз по этому контакту.
— Подтвердите.
Максим задумался.
— Подтверждаю.
— Причина?
— Не указывать.
— Это снизит точность персональных рекомендаций.
— Знаю.
— Хотите продолжить?
— Да.
Прогноз исчез.
Максим неожиданно почувствовал удовлетворение.
Совершенно иррациональное.
Будущее одного разговора теперь снова было неизвестно.
По дороге домой он включил новости.
Технологический мир продолжал ускоряться.
В Японии началось клиническое испытание биопечатной ткани печени нового поколения.
В Южной Корее открыли район, где автономные грузовые системы работали полностью без человеческих водителей.
Европейский медицинский консорциум объявил о расширении «Пульса» на ещё сто миллионов пользователей.
Первое поколение нейроинтерфейсов для восстановления двигательной функции получило массовое разрешение.
На Луне автономный строительный комплекс завершил герметичный модуль на три недели раньше срока.
А компания NEOS сообщила, что новая версия «Зеркала» теперь способна строить долгосрочные модели удовлетворённости жизненными решениями.
Максим открыл новость.
«Система поможет пользователю оценить не только вероятность успеха, но и прогнозируемый уровень долгосрочной удовлетворённости выбранной траекторией».
Он перечитал.
Профессия.
Место жительства.
Финансовые решения.
Образование.
Отношения.
На экране была довольная семья.
Слоган:
«ВАШЕ БУДУЩЕЕ МОЖНО ПОНЯТЬ ДО ТОГО, КАК ВЫ ЕГО ВЫБЕРЕТЕ».
Максим смотрел.
Ещё утром ему понравилась бы эта фраза.
Теперь он услышал голос Лилии:
«Если система учтёт действительно всё и скажет вам: вот единственно оптимальное решение — что тогда?»
Он закрыл рекламу.
Дом встретил его светом.
— Добрый вечер, Максим.
— Добрый.
— Завтрашний график оптимизирован.
— Покажи.
Восемь встреч.
Два анализа.
Заседание.
Медицинское обследование.
«Зеркало» переставило часть задач.
— Почему встречу с социальной группой перенесли?
— Это повышает ожидаемую эффективность дня на 6%.
Максим уже собирался подтвердить.
Остановился.
— Верни исходное время.
— Это снизит эффективность графика.
— Знаю.
— Причина?
Максим снял часы.
— Никакой.
— Необходимо указать—
— Нет.
Пауза.
— Исходное время восстановлено.
Максим улыбнулся.
Мелочь.
Абсолютно бессмысленная.
Но почему-то ему понравилось.
В это же время в аналитическом центре «Горизонт» завершил очередной цикл моделирования.
Среди миллионов других событий система обработала новый контакт.
СИМОНОВ МАКСИМ — НЕСТЕРОВА ЛИЛИЯ.
Объём данных был мал.
Уверенность — низкая.
Но даже этого оказалось достаточно, чтобы изменить несколько долгосрочных вероятностей.
Вероятность усиления критического отношения Симонова к расширению рекомендательных полномочий системы: рост с 17,4% до 24,9%.
Вероятность инициирования Симоновым дополнительных ограничений на автоматическое принятие решений: 21,6%.
Вероятность конфликта с архитектурой будущего проекта централизованной координации: недостаточно данных.
Последний показатель система не вывела пользователю.
Он существовал только как слабая ветвь.
Почти шум.
И всё же «Горизонт» сохранил её.
Потому что будущее иногда начинается именно так.
Не с войны.
Не с закона.
Не с революции.
С разговора между двумя людьми, которые пока даже не знают, что однажды окажутся по одну сторону против системы, которую один из них ещё только собирается сделать сильнее.
Глава 8. Мир без ожидания
К 2044 году ожидание стало восприниматься как техническая ошибка.
Люди больше не ждали такси.
Машина подъезжала к нужному месту ещё до того, как человек окончательно решал выйти.
Не ждали врача.
«Пульс» заранее замечал отклонение, формировал первичное заключение и подбирал доступное окно консультации.
Не ждали документы.
Не ждали переводчика.
Не ждали курьера.
Не ждали, пока освободится нужный специалист.
Не ждали, пока школа поймёт, что ребёнок отстал по теме.
Не ждали, пока болезнь проявит себя.
Не ждали даже, пока сломается техника.
Система замечала изменение раньше.
Присылала робота.
Переносила нагрузку.
Заказывала деталь.
Исправляла.
Максим заметил это утром, когда его автомобиль остановился на двадцать семь секунд.
Просто остановился.
Посреди маршрута.
Не аварийно.
Не резко.
На панели появилась надпись:
ПЕРЕСТРОЕНИЕ ТРАНСПОРТНОГО ПОТОКА.
ОЖИДАНИЕ: 00:27.
Максим посмотрел.
Двадцать семь секунд.
И поймал себя на раздражении.
— Причина?
— На перекрёстке впереди произошло ручное вмешательство в транспортную сеть.
— Что случилось?
— Водитель старого автомобиля отказался от автоматического режима.
Максим поднял бровь.
— И?
— Система перестраивает траектории четырёхсот двенадцати транспортных единиц.
— Из-за одного человека?
— Да.
На экране появилась камера.
Старый автомобиль действительно стоял почти поперёк полосы.
За рулём сидел мужчина.
Рядом сотрудник транспортной службы что-то объяснял.
Максим улыбнулся.
— Упрямый.
— Уточните оценку.
— Не надо.
Таймер показывал:
00:14.
И вдруг Максим понял:
четырнадцать секунд кажутся ему долгими.
Он посмотрел на часы.
Ещё десять лет назад городская пробка могла отнять час.
Теперь двадцать семь секунд воспринимались как нарушение нормального порядка.
Автомобиль тронулся.
— Насколько увеличилось среднее время передвижения по Женеве за последний год?
— Уменьшилось на 11,4%.
— А количество остановок?
— На 38%.
— А ручное управление?
— Используется в 6,2% поездок.
— Год назад?
— 14,7%.
Максим откинулся в кресле.
— Быстро.
— Скорость перехода соответствует прогнозу.
Разумеется.
Практически всё теперь соответствовало прогнозу.
Женева 2044 года мало походила на город, в котором Максим жил всего несколько лет назад.
Не потому, что появились невероятные здания или летающие машины.
Будущее по-прежнему выглядело гораздо скромнее старых фантазий.
Оно просто убирало лишнее.
Сначала водителя.
Потом кассу.
Потом очередь.
Потом необходимость помнить.
Потом необходимость искать.
Потом необходимость спрашивать.
Каждое изменение было маленьким.
Вместе они создавали новую жизнь.
На фасадах зданий работали адаптивные покрытия.
Они регулировали температуру, свет, влажность и расход энергии.
Большинство новых районов почти не имело привычных мусорных контейнеров: отходы автоматически разделялись внутри зданий и уходили в подземную логистическую систему.
Роботы обслуживали дороги ночью.
Дроны использовались всё реже — наземная доставка оказалась дешевле и безопаснее в плотной городской среде.
На крышах жилых комплексов появились миниатюрные фермы.
Не декоративные.
Настоящие.
Часть овощей выращивалась прямо там, где их употребляли.
За пределами города огромные автономные сельскохозяйственные комплексы работали почти без людей.
Машины следили за почвой.
Водой.
Составом растений.
Болезнями.
Погодой.
Система точно определяла, где нужен дополнительный полив.
Где азот.
Где болезнь началась всего на нескольких квадратных метрах.
Урожайность росла.
Расход воды снижался.
Химической обработки становилось меньше.
Цены на часть продуктов падали.
Человечество постепенно переставало зависеть от того, насколько удачным оказался один сезон.
Максиму нравился этот мир.
Очень.
Он никогда не скрывал.
В Международном центре его уже ждал Андрей.
— Ты опоздал.
Максим посмотрел на время.
— На тридцать одну секунду.
— Исторический момент.
— Водитель решил управлять самостоятельно.
Андрей рассмеялся.
— Всё ещё существуют?
— Видимо.
— Надо сфотографировать.
— Не начинай.
Они вошли в лифт.
— Ты видел отчёт по Сингапуру? — спросил Андрей.
— Какой именно?
— Автономное управление городским энергоконтуром.
— Да.
— Потери минус девятнадцать процентов.
— Знаю.
— Перебои практически нулевые.
— Знаю.
— И ты всё ещё хочешь сохранить обязательное человеческое подтверждение для перераспределения резервов?
Максим посмотрел.
— В аварийных режимах.
— Почему?
— Потому что резерв может быть снят с одного района ради другого.
— Система рассчитает последствия.
— Знаю.
— Тогда?
— Есть решения, в которых люди должны понимать, почему один получает ресурс, а другой нет.
— Даже если машина выберет оптимально?
Максим задумался.
— Особенно тогда.
Андрей усмехнулся.
— Лилия?
— При чём здесь Лилия?
— Ты стал чаще использовать слова вроде «должны понимать».
— Я и раньше использовал.
— Реже.
Двери открылись.
Анна уже ждала.
— Опять спорите?
— Андрей пытается отменить человечество.
— Я пытаюсь убрать лишние подтверждения.
— Одно и то же, — сказала она.
— Спасибо за объективность.
На центральном экране находился отчёт, ради которого Максим приехал раньше обычного.
ГЛОБАЛЬНАЯ ТЕХНОЛОГИЧЕСКАЯ ДИНАМИКА 2044
Документ был огромным.
Раньше подобные отчёты выпускали раз в несколько лет.
Теперь — ежеквартально.
Мир менялся слишком быстро.
Анна включила первую модель.
— За последние два года среднее время между появлением технологического решения и его массовым внедрением сократилось почти вдвое.
— В каких областях?
— Почти во всех, где есть цифровая инфраструктура.
— Самые быстрые?
— Персональные ИИ.
— Медицинские предиктивные системы.
— образование.
— логистика.
— автономное производство.
— интеллектуальная энергетика.
Максим кивнул.
— Космос?
— Медленнее.
— Почему?
Андрей ответил:
— Физика пока ещё не обновляется по подписке.
Анна улыбнулась.
— Но и там ускорение.
На экране появилась Луна.
За два года первый постоянный исследовательский комплекс вырос почти втрое.
Теперь на поверхности находилось несколько сотен человек.
Основную часть строительства выполняли автономные машины.
Печатали защитные элементы из реголита.
Прокладывали коммуникации.
Строили герметичные модули.
Обслуживали энергетические установки.
Человеку требовалось всё реже выходить наружу.
Риск снижался.
Стоимость каждого нового модуля тоже.
— Через пять лет постоянное население может превысить две тысячи, — сказала Анна.
Андрей кивнул.
— Потом больше.
Максим смотрел на изображение Земли над лунным горизонтом.
— Человечество готовится жить на другой планете.
— Спутнике, — поправил Андрей.
— Неважно.
— Для астронома важно.
Максим улыбнулся.
— А мы всё ещё не решили, кто отвечает за алгоритм, когда он ошибается.
Анна посмотрела.
— Возможно, именно поэтому и надо торопиться.
— С чем?
— С взрослением.
Андрей вздохнул.
— Началось.
Следующий раздел.
МЕДИЦИНА
«Пульс» за два года превратился из сети добровольного мониторинга в почти повседневную инфраструктуру.
Около двух миллиардов человек использовали совместимые устройства.
У сотен миллионов были имплантируемые микросенсоры.
Не обязательные.
Но всё более обычные.
Система отслеживала ритм сердца.
Гормональные изменения.
Воспалительные маркеры.
Некоторые виды онкологических рисков.
Нейродегенеративные изменения.
Параметры сна.
Реакцию на лекарства.
Риск инсульта.
Иногда заболевание обнаруживалось за годы до того, как человек ощущал что-либо.
— Смертность от внезапных сердечных событий в подключённых регионах снизилась на двадцать семь процентов, — сказала Анна.
— Хорошо.
— Некоторые онкологические заболевания на поздней стадии — минус девятнадцать.
— Прекрасно.
— Количество необоснованных тревог тоже выросло.
Максим посмотрел.
— Насколько?
— Люди получают риски, которые могут никогда не реализоваться.
Она открыла пример.
ПАЦИЕНТ 54-187
Текущий возраст: 38 лет.
Прогнозируемая вероятность нейродегенеративного заболевания до 60 лет: 73%.
Клинических симптомов: нет.
— Что предлагается?
— Мониторинг.
— Профилактика?
— Экспериментальная.
— Пациент знает?
Анна посмотрела.
— Да.
— Сам запросил?
— Нет.
— Тогда почему сообщили?
— Стандарт уведомления.
Максим нахмурился.
— Это надо пересмотреть.
Андрей удивился.
— Почему?
— Он здоров.
— Но риск высокий.
— Я вижу.
— Чем раньше знает, тем больше возможностей.
— Если существует лечение.
— Возможно, появится.
— А если нет?
Андрей пожал плечами.
— Всё равно лучше знать.
Анна посмотрела.
— Ты уверен?
— Я бы хотел знать.
— Это ты.
— Человек имеет право на информацию о себе.
Максим сказал:
— И право не знать.
Тишина.
Андрей повернулся.
— Лилия.
— Прекрати.
— Нет, серьёзно.
— Это медицинская этика, а не Лилия.
— Три года назад ты бы первым сказал: «Больше информации — лучше решение».
Максим задумался.
Наверное.
— Тогда я меньше думал о цене информации.
Анна улыбнулась.
— Это точно Лилия.
Максим проигнорировал.
— Ввести настройку.
— Какую? — спросила Анна.
— Человек заранее выбирает, какие категории рисков хочет знать.
— Хорошо.
— Неотложные — всегда.
— Да.
— Долгосрочные неизлечимые — только при согласии.
Андрей покачал головой.
— Мы начнём прятать от людей реальность.
— Нет.
— Давать им право решить, хотят ли они жить внутри прогноза.
Анна посмотрела на Максима чуть внимательнее.
Он заметил.
— Что?
— Ничего.
— Не начинай.
Следующий раздел.
БИОПЕЧАТЬ
На экране появился орган.
Печень.
Не модель.
Настоящая ткань.
Выращенная из клеток пациента.
— Первый полноценный трансплантат прошёл девятимесячное наблюдение, — сказала Анна.
Максим подошёл ближе.
— Отторжение?
— Минимальное.
— Иммуносупрессия?
— Снижена почти в четыре раза.
— Массовое применение?
— Пока нет.
— Когда?
— Прогноз — пять-семь лет.
Андрей улыбнулся.
— Вот это действительно будущее.
Максим согласился.
Если технология сработает, исчезнут годы ожидания донорских органов.
Тысячи людей перестанут умирать, потому что подходящего органа не нашлось вовремя.
— Что ещё?
Анна переключила.
Кожа.
Сосудистые фрагменты.
Хрящи.
Некоторые структуры сердечной ткани.
— Полноценные органы всё ещё сложны.
— Но путь есть.
— Да.
Максим смотрел.
Мир действительно становился другим.
Не философски.
Физически.
Вещи, которые веками считались частью человеческого ограничения, начинали превращаться в инженерные задачи.
Следующий блок.
НЕЙРОТЕХНОЛОГИИ
Здесь Максим задержался.
На экране мужчина с травмой позвоночника управлял роботизированной рукой непосредственно сигналами мозга.
Другая женщина, потерявшая возможность говорить после инсульта, формировала текст через нейроинтерфейс.
Ребёнок с тяжёлым нарушением слуха использовал систему нового поколения, которая адаптировалась не только к звуку, но и к нейронным паттернам.
— Это разрешено? — спросил Максим.
— Лечебные интерфейсы — да.
— Улучшающие?
Анна открыла.
— Ограниченные испытания.
— Какие улучшения?
— Внимание.
— рабочая память.
— ускорение обучения.
— Очень ограниченно.
Андрей усмехнулся.
— Пока.
Максим посмотрел.
— Ты заразился.
— Слово хорошее.
— Риски?
— Не только медицинские, — ответила Анна.
— Тогда?
— Если можно улучшить память ребёнка технологически, кто получит доступ первым?