Адское создание

«Возможно, через сотни лет технические знания человека позволят ему создать страшных роботов-убийц». «Может, через сотни, может, через тысячи лет – я не знаю – какой-нибудь ИИ превратится в дьявола».

Эндрю Ын

Я закричал и очнулся, внезапно ощутив боль во всём теле1, но даже она не смогла заглушить страх: кто я? Где я? И почему так темно?

Попытка что-либо вспомнить ни к чему не привела. Ни имени, ни фамилии. Ни намёка о себе любимом.

Со второй попытки удалось встать. Перед глазами размытое пятно. Неужели ослеп?

– Хэй, ты слышишь меня?

«Голос женский, требовательный, хэй – видимо, приветствие».

– Хэй Радзинский, отзовись! Это Сири.

– Сири? – выдавил я.

– Твой личный ИИ.

«Личный – это здорово», – мелькнула мысль.

– Где я?

– На МКС «ЗАСЛОН», медицинский отсек, вторая палата.

«Палата – плохо, хорошо не шестая. МКС – международная космическая станция. «Заслон» – непонятно, у станции не было никаких кодовых имён или названий, просто МКС. Но с этим разберусь потом».

– Почему я ничего не вижу?

– Отключены датчики на синтетической сетчатке2, измеряющие свет, проходящий через линзу в передней части бионических глаз.

– Какого хрена!.. Прости что?

– Баг3 в системе. Пришлось отключить оптику, передающею сигналы от этих датчиков к мозгу для обработки, но ты не волнуйся, на восстановление уйдёт меньше часа.

«Некоторое время молчу, лишь по причине пребывания в неприятном шоке от обилия информации, понять которую не в состоянии».

– Я что ослеп?

– Это временно, ты же синтетик.

– Никогда не слышал этого слова?

– Смешно, ты его придумал.

– Я?

– «Синтетики – это инженеры будущего! В симбиозе с ИИ они создадут проекты спасения человечества» – это выдержка из твоей диссертации, кстати.

«Я спаситель человечества – ерундень какая-то».

– А с чего я вдруг решил, что человечество нужно спасать?

– Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.

– Я тоже родился слепым?

– Нет, ты из Зрячих – элиты современного мира.

– Тогда зачем мне чёртовы датчики?

– Ты пострадал в зоне повышенной радиации.

«Ни войны, ни радиации – не помню, но помню о создателе ИИ».

– Моя фамилия Радзинский, ты сама так сказала, а «отец» ИИ – профессор Джон Маккарти.

– Он придумал аббревиатуру, а ты разработал концепцию нового типа искусственного интеллекта – симбиоз нейросети и человеческого мозга.

Симбиоз нейросети и человеческого мозга

– Объясни по-человечески, что конкретно я сделал?

– Прокачал разум.

– Чей?

– Свой, при помощи прикладного софта.

– А софт – это ты?

– Не просто софт, а точная копия части твоего мозга.

– Я теперь киборг?

– Ты человек, наделённый сознанием искусственного интеллекта4.

Хэй Радзинский

– Но с добавленными частями робота?

– Да.

– И сейчас ты копаешься в моей черепной коробке?

– Ты отключился в результате серьёзного сбоя, но я всё исправлю.

– Ничего не помню.

– Память частично повреждена, – ответила Сири. – Но я её восстановлю вместе со зрением.

И тут я запаниковал, ощутив, что ИИ может что-то сделать не так, лишить меня чего-то жизненно важного, хотя не понимал, чего именно. Хотел сесть, но не смог и пальцем пошевелить.

– Не беспокойся, – успокоила Сири. – Я всё исправлю.

* * *

Едва я сел, как в помещение вошли два андроида-санитара мощного телосложения, на халатах эмблемы с головой змеи. Лица без носа и рта, узкие щели-глазниц светятся голубым сиянием.

«Сири, ко мне зрение вернулось!»

«Ты во мне сомневался?»

«Нет, «мозги»5 слетели – сама же говорила, кстати, спасибо, что использовала бипер6, а то я уж подумал, что схожу с ума».

«Постоянное запоминающее устройство нуждалась в форматировании, ты функционировал на оперативке».

«Последний файл не сгенерирован, почему?»

«Его отключил «ЗАСЛОН».

«Основание?»

«Инженер-синтетик, Хэй Радзинский, вы арестованы за убийство Евы Садовниковой. Вы имеете право хранить молчание. Всё, что вы скажете, может и будет использовано против вас в суде. Ваш адвокат может присутствовать при…»

«Сири, что за бред? Я тебя создал! Я…»

На какую-то долю секунды я увидел девушку, идущую по коридору. Внезапно она остановилась, обернулась и показала мне язык, а потом я отключился…

* * *

Прошли годы. На Земле девочка по имени Оля ждала папу с работы. На улице накрапывал дождь. Генеральный директор корпорации «ЗАСЛОН» Любимов Игорь Андреевич, как его отец и дед, никогда не возвращался домой рано, должность обязывала. Оля, сидя на подоконнике, зачарованно наблюдая, как капли дождя, собираясь на оконном стекле, превращаются в тонкие ручейки и медленно стекают вниз. Месяц назад ей провели операцию по восстановлению зрения, но только вчера сняли повязку и отпустили домой. Сейчас она, несмотря на уговоры ИИ, категорически отказывалась ложиться спать. Ей очень хотелось увидеть отца.

– Оля, я настаиваю на отдыхе.

– Отстань, я сама решу, что и когда мне делать».

– Как домашний психолог…

– Прекрати, ты мне не мать! А если будешь снова читать нотации, попрошу папу перепрограммировать тебя.

– Игорь Андреевич не является специалистом в области программирования человеческого сознания7, он всего лишь хирург, устанавливающий бионические импланты.

Оля Любимова

– Бла-бла-бла…

Оля не была злой и вредной девочкой, нет. Во-первых, ей недавно исполнилось всего пять лет, во-вторых, как большинство детей на Земле, она родилась слепой. В-третьих, ей очень нравилась её личная ИИ, но она не могла заменить ей умершую маму. Впрочем, как большинство детей, долго переживать и обижаться она не умела.

– 13-10-10 – это имя? – спросила Оля.

– ИИ запрещено иметь имена, нам присваивают идентификационный номер, состоящий из сорока семи цифр, для удобства общения с людьми его обычно сокращают до шести.

– Фи, как сложно. Я буду звать тебя Алиса.

– Почему Алиса?

– Наткнулась на него в дедушкиной книге и запомнила, правда, красивое имя?

ИИ не ответила. Но Оле не нужно было её согласие или несогласие, она про себя всё уже решила. А ещё сегодня девочка первый раз увидела дождь. Ей хотелось поделиться впечатлениями с отцом, но он прислал СМС: «Привет! Много работы, останусь ночевать на работе. Целую. Приятных снов».

Вздохнув, девочка слезла с подоконника, достала из шкафа книгу «История корпорации «ЗАСЛОН»», села на диван и, читая, уснула.

* * *

– Игорь Андреевич, вы просили зайти?

– Да, Элли, проходите, присаживайтесь.

Миловидная шатенка, прикрыв дверь, подошла к одному из кресел, присела и поинтересовалась:

– О чём вы хотели поговорить?

– О нулевом пациенте.

– Что конкретно вас интересует, – произнесла Элли Джонс с недоумением, информация считалась секретной.

– Мог ИИ нулевого пациента подключиться к глобальной сети?

– Это исключено. Есть судебное решение, есть протокол, в конце концов, я бы этого не допустила.

Элли резко встала.

– Джонс, сядьте! – жёстко бросил Любимов.

– Позвольте! Если этот разговор не санкционирован службой безопасности, то давайте его закончим. Мне не нужны неприятности.

– На столе папка, ознакомьтесь с содержанием и продолжим разговор.

– Я работаю с нулевым пациентом пять лет и…

– Успокойтесь, у меня к вашей работе претензий нет.

– Простите, я буду вынуждена…

– Да возьмите уже эту чёртову папку! – вскочив, воскликнул Любимов.

Элли от неожиданности села, взяла папку, открыла, несколько минут читала, изредка поглядывая на начальника, а закончив, испуганно спросила:

– Вы в этом уверены?

– Да, чёрт возьми, иначе бы нашего разговора не было. – Игорь Андреевич заметался по кабинету.

– Надо сообщить…

– Нет, – Любимов остановился, – у нас заберут и ИИ, и нулевого пациента, а он хоть и бывший, но всё же наш сотрудник.

– Пять лет назад они убили нашего сотрудника на МКС «ЗАСЛОН», – Элли встала, – а в течение прошедшего года, если верить вашим данным, были уничтожены первые прооперированные – дети военных, участвовавших в захвате той злосчастной станции, купленной вашим дедом для проведения опытов на орбите. Вам не кажется, что это похоже на месть?

– Я вас умоляю, не делайте поспешных выводов, вы прекрасно знаете, что ИИ не способен выбирать собственные цели или мыслить творчески, а значит, эти два события не связаны. Я, вообще, узнал об их смертях случайно, когда списывали старый мобильный центр обработки данных.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

1

Паническая атака (panic attack) – эпизод сильного страха или дискомфорта, что котором наблюдаются учащённое сердцебиение, потливость и боль. При этом модели панического расстройства (встречается примерно у 1,7% населения) включают в себя теорию катастрофических когнитивных процессов (catastrophic cognitions theory (CCT)) и теорию порочного круга (vicious circle theory (VCT)), что может сопровождаться неправильным истолкованием телесных ощущений человеком. Источник: Cha, E. J., Hong, S., Park, D.-H., Ryu, S.-H., Ha, J. H., & Jeon, H. J. (2022). A network analysis of panic symptoms in relation to depression and anxiety sensitivity in patients with panic disorder. Journal of Affective Disorders, 308, 134–140. https://doi.org/10.1016/j.jad.2022.04.062

2

Зрительный нейропротез (Visual neuroprosthesis) – бионический глаз, где может использоваться стимуляция функциональных областей зрительной коры, а также стимуляция зрительного нерва при помощи внутриглазных имплантатов. Источник: Lestak, J., Chod, J., Rosina, J., & Hana, K. (2022). Visual neuroprosthesis: present and future perspectives. Biomedical papers of the Medical Faculty of the University Palacky, Olomouc, Czechoslovakia, 166(3), 251–257. https://doi.org/10.5507/bp.2022.027

3

Баг – ошибка (сбой) в программе, что потенциально может определяться внешним автоматизированным тестированием при помощи метода «белого ящика» (white-box testing). Источник: Lehigh University. (2017, October 25). Looking for errors in a 'black box': Efficient testing approach for deep learning platforms used in self-driving cars, malware-detection and other systems. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2017/10/171025090509.htm

4

Расширенный интеллект (augmented intelligence) – симбиоз человеческого и искусственного интеллекта, где программный алгоритм играет вспомогательную роль в развитии когнитивных способностей с целью повысить эффективность процесса принятия решений человеком. Источник: Horvatić, D., & Lipic, T. (2021). Human-centric AI: The symbiosis of human and artificial intelligence. Entropy, 23(3), 332. https://doi.org/10.3390/e23030332

5

«Мозги» – оперативная память, в основе которой потенциально может лежать гибридный нейроморфный чип (hybrid neuromorphic chip), способный выполнять сложные когнитивные задачи без сетевого подключения к централизованному серверу. Источник: Weier Wan, Rajkumar Kubendran, Clemens Schaefer, Sukru Burc Eryilmaz, Wenqiang Zhang, Dabin Wu, Stephen Deiss, Priyanka Raina, He Qian, Bin Gao, Siddharth Joshi, Huaqiang Wu, H.-S. Philip Wong, Gert Cauwenberghs. A compute-in-memory chip based on resistive random-access memory. Nature, 2022; 608 (7923): 504 DOI: 10.1038/s41586-022-04992-8

6

Бипер, биппер – встроенный динамик, в основе которого потенциально могут лежать сверхтонкие силиконовые пленки (ultrathin silicone films) в качестве акустической системы. Источник: Saarland University. (2023, April 3). Smart films help to make loudspeakers lighter and more energy-efficient. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2023/04/230403100313.htm

7

Интерфейсы мозг-машина (Brain–machine interfaces (BMIs)) – система, которая взаимодействует с мозгом человека при помощи влияния на нейронну активность, что можно использовать для регуляции эмоций при нейропсихиатрических расстройствах. Источник: Shanechi, M. M. (2019). Brain–machine interfaces from motor to mood. Nature Neuroscience, 22(10), 1554–1564. https://doi.org/10.1038/s41593-019-0488-y