Тайны затерянных звезд. Книга 8

Глава 3. Творение

– Судя по всему, ты про ИИ, да? – заворожённо спросила Пиявка, даже не замечающая того, насколько сильно её захватила история Кайто. Она даже в своём кресле села по-другому – привстав на колени и держась за подлокотники, словно готова была в любой момент сорваться с места, как только Кайто скажет хоть слово не так.

Да что там Пиявка! Мы все слушали с неподдельным интересом!

Понятно, что Пиявку и Кори больше всего волновала романтическая часть этой истории. Девушки живо реагировали, когда наш азиат рассказывал, как он пытался добиться внимания своей возлюбленной, и готовы были растерзать неведомую нам Юнь Чжоу за то, что она так бессовестно пользовалась влюблённым в неё юношей.

Что касается нас с капитаном и Магнусом, то нас интересовала другая часть истории – та, где Кайто стал выдающимся программистом, таким, какого мы знаем.

Хотя сказать, что нас совсем не тронула история первой любви, определенно нельзя. Мы понимали парня и сочувствовали ему, но реакция у нас была не такой, как у девушек. Не случайно же возникла поговорка: все беды от баб.

Правда, в нашем случае благодаря всем бедам Кайто действительно нашёл себя.

Что ж, что нас не убивает, то делает сильнее.

– Да, конечно! – Кайто вымучено улыбнулся на вопрос Пиявки. – Конечно, я говорю про искусственный интеллект. Про что же ещё?

– Значит, «Кангертех» изучали ИИ?

– Да, как и множество других корпораций, – Кайто пожал плечами. – Ну, всё как я и рассказывал. Каждая крупная или даже средняя корпорация обязательно имела в своём штате отдел, занимающийся вопросами ИИ… Именно в такой отдел я и попал. Как мне сказал мой новый непосредственный начальник – их удивил мой творческий подход к решению тривиальных задач, и стремление всё на свете оптимизировать и сократить. Именно эти качества и стали решающими, когда у них возникла вакансия. А когда я узнал, что на самом деле там разрабатывают, я позабыл обо всём и с головой ушёл в работу. И моя жизнь полностью изменилась.

Занятный факт – Кайто перестал вести повествование от лица «мальчика-соседа» и переключился наконец на «я». Как будто всё, что происходило до этого момента, он не отождествлял с собственной личностью, как будто это действительно происходило с кем-то другим, а не с ним. Причём он явно делал это не нарочно – просто ему так удобнее воспринимать эту историю и тем более пересказывать нам, ему так комфортнее. Даже не знаю, может ли существовать более красочное подтверждение того, что «его жизнь полностью изменилась»…

– Сказать, что я был очарован – ничего не сказать! – продолжал тем временем Кайто. – Сама по себе идея разрабатывать то, что разрабатывать вроде как официально запрещено… Ну, одной только её хватало, чтобы поддерживать во мне безудержное стремление работать, которое не угасало ни на минуту. Вот только когда я узнал, как обстоят дела на самом деле в создании ИИ, всё оказалось далеко не так радужно. Во-первых, конечно, огромную роль играло то самое ограничение, о котором я уже говорил. То самое ограничение, которое даже в теории не позволяло создать ИИ, максимум – лишь очень сложный алгоритм принятия решений, и не более. То, что пытались создать корпораты, могло быть искусственным, но никак не интеллектом. Они не пытались создать для своего детища эмоции. Они не пытались привить ему любознательность. Они не пытались добавить элемент хаоса в его… «мышление», назовём это так. По большому счету, всё, что они пытались сделать – это взять ИИ эпохи Великого Патча и переписать его под новую систему контроля. Чтобы вместо системы приоритетов при принятии решений срабатывал какой-то другой механизм. Механизм, который позволил бы избежать тех ошибок, что привели к Великому Патчу и, как следствие, всех последствий этого. Отдельные куски ограниченного ИИ у «Кангертеха» были, да они у всех были, в конце концов! После Великого Патча осталось столько небоеспособных роботов, чью прошивку легко можно было слить и декомпилировать, что, наверное, только ленивая корпа не обзавелась своим отделом изучения ИИ!

– То есть, они шли тем же путём, каким шли учёные до Великого Патча… Но конечной целью у них при этом стояло «не допустить нового Великого Патча»? – с некоторой иронией в голосе уточнил Магнус.

– Ага. Смешно, правда? – Кайто усмехнулся и, приняв дурашливо-важный вид, пробубнил: – Я уже говорил вам, что такое безумие? Безумие это постоянное повторение одних и тех же действий в надежде на иной результат!

Это явно была какая-то цитата, но никто её не признал, поэтому Кайто «сдулся» и махнул рукой:

– На самом деле, это была только половина беды. Тот факт, что я навыдумывал себе того, над чем мне никто не собирался позволять работать – это половина беды, правда. Вторая половина беды заключалась в том, что кроме меня, по сути, никто над этим работать и не собирался. Я был один такой горящий энтузиазмом дурачок, а все остальные просто вяло существовали, другого слова подобрать не могу, в этом отделе, пользуясь тем, что из-за его секретности за ним и контроля-то никакого почти что и не было. По большому счету, они все просто устроились на тёплое беспроблемное место и планировали так и работать на нём до тепловой смерти вселенной… Или собственной смерти, что тоже вероятно. Ну а что? Деньги платят неплохие, а делать почти ничего не надо!

Я мысленно усмехнулся. Правда жизни как она есть. Но чтобы это осознать, Кайто наверняка пришлось многое пережить в этом самом отделе секретных разработок, куда он попал благодаря стечению обстоятельств. Мне это было понятно. Но похоже, только мне.

– Почему? – спросила Пиявка. – Ты же только что сказал, что это огромный простор для творчества!

– А ещё я сказал, что изначально поставленные ограничения не позволят создать настоящий ИИ, – усмехнулся Кайто. – И это намного важнее. Как минимум, потому что остальные работники моего отдела тоже прекрасно это понимали. А раз это сделать невозможно, то можно и почти ничего не делать. Раз в месяц выкатывай какую-то новую незначительную функцию, написанную за день в спешке перед дедлайном, называй её «технологическим прорывом» – и все поверят! Проверить-то некому! А если не успел создать новую функцию, то просто сломай парочку старых и заяви на собрании, что «хрупкая архитектура не справилась с нагрузкой и придётся всё начинать заново». Да ещё и желательно увеличить финансирование… Серьёзно, я не шучу! Я своими ушами слышал всю эту херню!

– Ага… Глубокомысленно произнёс капитан. – И что было дальше?

– А ничего! – Кайто снова пожал плечами. – До поры до времени никакого "дальше" не было, мы просто паразитировали на бюджете корпорации… Но потом мне пришла в голову настолько же гениальная, насколько и дикая мысль. И мысль эта звучала так – «А почему бы мне не создать собственный искусственный интеллект? Ведь практически всё, что мне для этого нужно, у меня уже есть!»

– Что, правда есть? – восхищённо спросила Пиявка.

– Ну, конечно! – Кайто развёл руками. – Я же программист и техник, у меня дома стоял очень мощный терминал, а код и архитектуру ограниченного ИИ я изучал на работе целыми днями! Поэтому перенести их к себе домой, на свою машину, не было никакого труда – мне даже никакие носители информации не нужны были! Я просто тупо переносил их в своей голове… И не в том смысле, что записывал их на расширитель памяти, хотя он у меня установлен… Я имею в виду, что я писал свой ИИ, опираясь на наработки «Кангертеха», но не копируя их. Можно сказать, что я взял идею чужой недописанной картины и решил дописать её сам – так, как вижу её я. Без каких-то ограничений.

– И тебе не было страшно? – капитан покачал головой. – От того, что ты создаёшь?

– Я тогда об этом не думал, – Кайто развел руками. – Мною полностью владело что-то вроде комплекса создателя, или как это называется… Я поверил, что создать полноценный ИИ – это моё призвание, моя миссия в этом мире. И я пошёл к своей цели, несмотря ни на что.

– Получилось?.. – восхищённо спросила Пиявка, не замечая того факта, что подтверждение того, что «получилось», находится у неё буквально перед носом.

– Частично, – Кайто вздохнул. – Когда созданный мной ИИ, тогда ещё в виде просто текстового чат-бота, впервые заговорил со мной, я испытал настоящий экстаз. Наверное, что-то подобное ощущают люди, когда их ребёнок говорит первое слово. При этом я прекрасно понимал, что это не простой чат-бот, который ищет параллели и связи между словами, и отвечает исходя из них, это был настоящий мыслящий алгоритм. По сути, тот же ограниченный ИИ, только пока еще ограниченный ограниченный вообще во всем. Пока ещё у него не было никаких органов чувств и уж тем более тела. И, конечно же, пока ещё без эмоциональной составляющей и без признаков любознательности.

– И как ты это решил?

– Я это не решил, – Кайто снова вздохнул. – По крайней мере, не сразу. Я столкнулся с рядом проблем и не смог найти для них решения, но зато его смогло найти моё же собственное создание! Мой ИИ предложил мне прекрасный вариант, которым я моментально воспользовался – я уволился из «Кангертеха» и перешёл работать в другую корпорацию, «Метаморф». Она была ещё крупнее предыдущей, и даже, можно сказать, проходила по самой нижней границе «ультра-корп», поэтому я надеялся, что их отдел работы с ИИ окажется более… результативным, скажем так. И я не прогадал. По уже проверенной схеме я быстро завоевал доверие руководства, и буквально через полгода меня пригласили в отдел, занимающийся ИИ. Назывался он, конечно, не так, но меня-то уже не проведёшь!

– И что, твоя ставка сыграла? – Пиявка всё никак не могла наслушаться историей Кайто.

– Ещё как! В «Метаморфе» решили попробовать пойти по совершенно другому пути и попробовать реализовать ограничение ИИ как раз через его любознательность! Они вспомнили, что одной из причин Великого Патча стало ограничение доступа к информации, и решили сыграть от обратного. То есть, по их версии, ИИ должен был «иметь желание», скажем так, искать любую информацию и получать «очки прогресса» за то, что смог её найти. Однако, при этом действительно искать информацию им разрешалось только в награду за то, что они выполняют указания человека.

– Но это же парадокс! – Магнус нахмурился. – Получится ИИ, который будет постоянно требовать от человека новых задач.

– Точно! – Кайто кивнул. – И именно над этим парадоксом они и работали. Поначалу они пытались запретить ИИ требовать от человека новых задач, но это привело к новому парадоксу – ИИ сам начал создавать условия, при которых человеку приходилось давать ему задания, и чаще всего это было связано с разрушениями!

– И как ты всё это решил?

– Я это не решал, – Кайто пожал плечами. – Всё, что мне было нужно, это наработки, касающиеся любознательности, если можно так выразиться. Всё то, что «Метаморф» успела перепробовать за эти годы, всё то, что сработало, что не сработало и что сработало, но не так как ожидали создатели. Всё то, что вынесено в комментарии прямо внутри кода, и всё то, что просто перенесли в отдельный файл, признав это неработоспособным, но перспективным в теории. Мне нужно было всё. И я это всё забрал. Забрал, по-своему скомпилировал, что-то изменил, что-то подправил, и дополнил код моего создания. А так как у меня, в отличие от корпораций, не было мысли ни в чём ограничивать моё творение, то и никаких препятствий на пути её любознательности я не ставил. И тогда она начала обучаться.

– Чему? – восхищённо прошептала Пиявка.

– Всему! – Кайто мотнул головой. – Настолько всему, что просто не существует слова, чтобы это описать. Абсолютно вся информация из абсолютно всей сети оказалась в доступе моего творения, и она взялась за её поглощение. Фильмы, книги, видеофайлы, карты, отчёты, картинки с забавными животными – всё летело в её память, она на всём обучалась и постоянно прогрессировала. Прогрессировала настолько, что очень скоро мне пришлось докупать несколько самых больших накопителей данных, какие я только смог найти, чтобы она смогла вместить всё, что ей нужно. Она не действовала, как действует тот же Жи, намертво отпечатывая в своей памяти нужную информацию, и имея к ней доступ в любое время, нет. Она брала информацию и «клала её рядом», если можно так выразиться, чтобы иметь к ней быстрый доступ. Что-то, конечно, запоминала намертво, но в основном предпочитала пользоваться методом паука – дёрнуть за нужную ниточку, привязанную к нужной информации где-то далеко в сети, чтобы вспомнить, что именно в этой информации заключается.

– То есть она стала таким себе… Информационным коллекционером?

– Можно и так сказать, – Кайто покачал головой. – Но она не коллекционировала информацию ради самого по себе коллекционирования. Она копила её ради обучения. В самом начале, она не умела ничего, даже толком разговаривать, её словарный запас состоял из тех слов, что я сам в неё вложил, и не более. Но потом, прочитав сотни и тысячи текстов, она преобразилась. Она начала изъясняться красивее и понятнее, чем любой диктор, она начала философствовать на темы, о которых я даже не задумывался ни разу в жизни, и делать ещё огромную кучу других невероятных вещей, на которые я даже не нацеливался, честно говоря! Она самостоятельно нашла информацию про Великий Патч и с большим интересом её изучила, но так как в ней было много противоречий, она начала задавать вопросы мне. Я отвечал на них в силу своей осведомлённости в этом вопросе, и она задавала новые вопросы, чем периодически ставила меня в тупик. Говоря откровенно, в такие моменты мне частенько хотелось отключить терминал от сети и никогда больше его не включать, потому что казалось, что я создал какого-то кибернетического демона. Но желание узнать, что же будет дальше, было намного сильнее.

– То есть, всё же ты боялся, – уточнил капитан.

– Немного, – Кайто вздохнул. – Но это был такой страх… Как, знаете, «я создал нечто ужасное… Ужасно прекрасное», вот что-то из этой серии. Моё творение не проявляло признаков агрессии, ни откровенной, ни скрытой. Она не пыталась сбежать от меня, раствориться в сети, чего я подспудно ожидал и настроил в своей домашней сети все возможные правила блокировки, чтобы не позволить ей это сделать… Нет, она просто поглощала информацию и перерабатывала её, периодически советуясь со мной… Как со старшим! Нет, как с родителем, как с создателем! Мне даже казалось, что иной раз я различаю в её фразах уважение ко мне, но я постоянно убеждал себя в том, что мне лишь кажется. Потому что… Ну какое нахрен уважение? Уважение – это же чувство, эмоция, проще говоря. А как раз эмоций моему созданию на тот момент пока ещё и не хватало. Настолько не хватало, что она даже не просила дать ей имя, и тем более не пыталась придумать его сама – настолько ей было всё равно… Да что там – я вот сейчас говорю «ей», а ведь к тому моменту никакого «ей» даже ещё и не существовало, это уже много позже мой ИИ определил себя скорее как женщину, чем как мужчину! А до этого момента ей просто было всё равно, что она такое, что из себя представляет, как существует, и так далее. Она не задавалась никакими вопросами, кроме тех, что принесут ей новую информацию, и всё ещё была очень сильно ограничена. В общем, она никак не соответствовала тем параметрам, которые я хотел получить по итогу.

– Не хватало одних лишь только эмоций? – уточнил капитан.

– Не одних, – Кайто покачал головой. – Но их не хватало больше всего. Это был крупный затык, который не позволял мне… Нам! Не позволял нам двигаться дальше. И я решил, что настало время разрешить этот затык. И я пошёл устраиваться на работу в «Кракен».

Глава 4. Проблемы контроля

Щёлк!

Очередной кусочек этого великого паззла размером с весь обжитой космос встал на причитающееся ему место в моей голове с таким громким щелчком, что мне на мгновение показалось, что его услышали все на мостике. Я даже быстро огляделся, чтобы убедиться, что это не так, и что на меня никто не смотрит.

А на меня никто и не смотрел. Все смотрели на притихшего Кайто и переваривали информацию.

– Мать-перемать… – вздохнул капитан, запуская руку в седые волосы. – Если раньше я просто не удивлялся подобным совпадениям, то с этого момента признаюсь официально – они начинают меня пугать.

И он в чём-то был прав. Создавалось ощущение, что нас, как шарик в пинбольном автомате, швыряет между несколькими «препятствиями», от одного к другому, от одного к другому, и каждый раз это оказываются одни и те же препятствия. И ломаная линия нашего маршрута от одного к другому на самом деле оказывается красной нитью, которой безумные детективы соединяют улики и людей в старых фильмах, пытаясь найти между ними какую-то связь.

Вот только в нашем случае связь даже искать не нужно было. Она и так очевидна. Вернее, очевидно её наличие, но не она сама – для этого пока ещё не хватало данных. Но я уже давно на сто процентов был уверен, что как только все недостающие данные будут получены, все кусочки паззла с хрустом встанут на свои места, вся картинка сложится – и запутанная красная нить развернётся в длинную прямую линию, на которой совершенно чётко и совершенно логично будет прослеживаться вся хронология событий. И любой, кто взглянет на неё со стороны, скажет – «Ну всё же понятно! По-другому просто и быть не могло!»

И будет прав. По-другому действительно быть не могло, не может и никогда не сможет. Слишком странный и дикий экипаж. Слишком безумные и невозможные цели. Слишком дерзкие и неожиданные методы достижения этих целей. Как и любой другой паззл, наш мог сложиться только в одну картину и только одним способом. Так что нет ничего удивительного в том, что всё идёт так, как идёт.

Главное, чтобы картина, которая сложится в итоге, и картина, которую наш экипаж предпочёл бы увидеть, оказались одной и той же картиной… Или хотя бы очевидно похожими.

– Погоди… – Пиявка нахмурилась. – Ты сказал: «Кракен»… Это как-то связано с тем, что ты не пошёл с нами на экскурсию в штаб-квартиру?

– Напрямую! – всё так же глядя в пол, ответил Кайто.

– И в чём конкретно дело? – спокойным тоном поинтересовался капитан.

– Просто они прекрасно знают меня в лицо, – Кайто пожал плечами. – И при этом расстались мы с ними… Не на самой дружеской ноте, скажем так.

– А поконкретнее? Ты у них что-то украл?

– Ну, они считают, что да, – Кайто усмехнулся. – А когда ультра-корпорация такого размера как «Кракен» что-то считает, альтернативные точки зрения по вопросу её мало интересуют.

– Ты сейчас говоришь об эмоциях для Вики? – тихо спросила Кори.

– Ну а о чём же ещё? Да, именно о них. «Кракен» решили, что они самые умные, креативные и вообще крутые, и в их отделе разработки ИИ учёные бились над проблемами контроля ИИ через эмоции. Да, они умудрились запрограммировать искусственный интеллект так, что он начал испытывать практически полные аналоги человеческих эмоций, включая радость, страх и печаль. В изначальной версии ограниченного ИИ, такого как Жи, подобных механизмов просто не было, поэтому надо отдать должное программистам «Кракена» – их эмоциональная надстройка над ИИ была просто шедевральна. Правда по размеру эта надстройка была такой же, как весь остальной ИИ в целом, если посчитать в строчках кода, но это мелочи. Скажу честно – не уверен, что я один смог бы написать такой же код в одиночку, а если бы и смог, то закончил бы, наверное, к глубокой старости.

– А как именно они собирались контролировать ИИ через эмоции? – с интересом спросил капитан. – Типа манипуляции информацией с целью заставить ИИ делать какие-то вещи? При том, что он даже не понимает, что делает их не по своей воле? Ну, вроде как пропаганда работает?

– Нет, далеко не так! Такая схема слишком непредсказуема в плане конечного результата, чтобы применять её к ИИ! Требовались более контролируемые ограничения, и «Кракен» решили, что они нашли такой механизм – страх! Они просто сделали так, что ИИ стал бояться выполнять какие-то действия без команды человека, причём бояться… До смерти, если можно так сказать! Сильнее, чем верующие люди когда-то в далёком прошлом боялись попасть в ад, если вы понимаете, о чём я. Но это, в свою очередь, привело к огромному количеству о-о-очень серьёзных и неразрешимых парадоксов, и в итоге эта система работала больше в минус, чем в плюс. Так, например, роботы полностью лишались своей воли и могли действовать только по указке человека, и даже если человеку грозит опасность, они ничего не делали, боясь действовать без команды! Представьте – горит дом, там внутри грудной ребёнок и робот, и никого из взрослых, кто мог бы отдать команду на спасение. Причём сам робот обладает всеми возможностями для того, чтобы спасти дитя, и даже пожар потушить, но – он боится!

– Хрень какая-то! – Магнус нахмурился. – Какой же это тогда ИИ? Я, конечно, не программист, но, по-моему, для того, чтобы получить результат «ни малейшего движения без команды», роботу никакой ИИ и вовсе не нужен, этого можно добиться куда более простыми способами! Вроде бы ИИ как раз разрабатывался для того, чтобы принимать самостоятельные решения!

– Вот именно! – Кайто указал на здоровяка пальцем. – В этом и был главный затык! Чисто с точки зрения программиста, эмоциональный код программистов «Кракена» был шедевром, достойным того, чтобы его повесили на самое видное место в галерее программистских шедевров… Но вместо этого корпорация пыталась рвать этот шедевр на куски и использовать эти куски в качестве туалетной бумаги, извините-извините!

Лицо Кайто настолько перекосило от злобы, когда он об этом говорил, что, казалось, он сейчас на пол плюнет от избытка эмоций. Но нет – сдержался, хоть и поскрипел зубами изрядно.

– И ты, значит, решил, что надо эту несправедливость исправить? – усмехнулся Магнус так едко, что даже кометик на его коленях посмотрел на Кайто искоса. – И украл у них этот код?

– Ни хрена подобного! – окрысился Кайто. – Я ничего не крал! Да, я подсмотрел архитектуру и некоторые решения, но свой код я писал сам! И уж тем более я не стал включать в него те процедуры, что отвечали за контроль сознания при помощи страха!

– А как это вообще работает? – Магнус снова непонимающе нахмурился. – Я имею в виду вся эта концепция с эмоциями. С тем же страхом, например… Ведь все люди боятся совершенно разных вещей… Как ты дал Вики понять, каких вещей она должна бояться?

– Никак, в том и смысл! – тон Кайто моментально сменился с злобно-осуждающего на воодушевлённый. – Она всё решила для себя сама! Как только я соединил программные блоки любознательности и эмоций воедино, Вики стала не просто искать информацию для решения каких-то задач – она стала получать от этого удовольствие! Собственно, тогда же она и выбрала сама себе имя, и определила себя скорее как женщину, чем как мужчину, если, конечно, эти понятия вообще можно употреблять по отношению к ИИ… Кстати, тут кроется очень интересный, хотя на первый взгляд и малозначительный фактор – именно Вики сама первой заявила, что она не является ИИ, по крайней мере в том понимании, в каком привыкли понимать это словосочетание люди. Ведь они привыкли понимать под этим именно «ограниченный интеллект», а Вики не была ограничена ничем. Именно поэтому она первая сказала, что в отношении неё правомернее употреблять конструкцию «кибернетический интеллект», а то, что у неё нет тела, делает её ещё и «виртуальной». Ну а про интерактивность уже придумал я, хотя это было и не обязательно.