Прокол черной вуали

— Ну что, приехало дело?

— Приехало.

— И?

— Обычная папка.

Лапшин засмеялся.

— Я почему-то ожидал большего.

— Все ожидают большего. Это главная проблема последних двух дней.

Андрей поставил на стол тарелки и сел напротив. Он был инженером по образованию, последние двадцать лет занимался сложными информационными системами и относился к искусственному интеллекту со специфическим отсутствием благоговения, которое обычно появляется у людей, достаточно долго наблюдавших, из каких проводов, костылей, патчей и совещаний рождаются технологии, которые потом в газетах называют революционными.

С Лапшиным они знали друг друга почти столько же, сколько сам Лапшин знал Елену, и спорили при каждой возможности - о праве, физике, экономике, истории, свойствах вина, московском транспорте и однажды, совершенно всерьез, о том, является ли борщ супом.

Поэтому когда Андрей спросил, что именно лежит в папке, Елена Владимировна пересказала не все дело, а только новое: компанию просили ничего необратимо не удалять, пока суды не закончат разбираться, а теперь компания сама согласилась Афину временно сохранить.

— Вот и молодцы, - сказал Андрей. - Держат большой Т9 на отдельном сервере. Национальная суверенность спасена.

Сергей Борисович даже не поднял глаз от сыра.

— Началось.

— А что началось? - Андрей налил вино сначала гостю, потом жене. - Вы оба уже неделю ходите вокруг этой штуки так, будто там ребенок за стеклом сидит. Лен, это большая языковая модель с памятью и инструментами. Очень большая. Очень сложная. Очень дорогая. Но суть-то от этого не меняется.

Елена Владимировна не очень любила выражение “большой Т9” именно потому, что оно стало таким же ленивым способом закончить разговор, как “искусственный разум”. Однако сегодня ей впервые захотелось не возразить, а попросить мужа договорить.

— Хорошо. “Большой Т9”. А что именно из этого следует?

Андрей посмотрел на нее с легким недоумением.

— Следует, что мы знаем, как это сделано. На вход поступает последовательность, внутри идут вычисления, система оценивает вероятности продолжения и строит следующий кусок. Потом следующий. К этому прикрутили память, внешние инструменты, планировщик, обратную связь, возможность вызывать другие модели. Получилось сложнее, чем чатик трехлетней давности, но наличие десяти этажей поверх механизма не создает маленькую женщину внутри сервера.

— Ты сейчас описал, чему модель обучали, - сказал Лапшин. - А не доказал, что получилось в результате обучения.

— Получилось то, что мы построили.

— Ты уверен?

— Да.

— Тогда зачем вы вообще тестируете системы после обучения? Посмотрели бы на схему и заранее знали все поведение.

Андрей махнул рукой.

— Не подменяй. Я не сказал, что мы можем предсказать каждый ответ. Сложная система может вести себя непредсказуемо без всякого сознания. Это вообще обычное дело. Возьми хотя бы клеточный автомат.

Елена Владимировна посмотрела на него.

— Возьми куда?

— Сейчас.

Он вытянул из лежавшего у края стола блокнота лист, нарисовал несколько квадратиков и быстро поставил в них точки. Лапшин вздохнул с таким выражением, будто именно этого и опасался.

— Представь, есть, условно говоря, несколько “клеток”. У них есть только два состояния, условно живая и мертвая. На следующем шаге ее состояние определяется несколькими тупейшими правилами в зависимости от соседей. Никаких мозгов, никакой психологии, вообще ничего. Но запускаешь много клеток - и возникают устойчивые структуры, штуки, которые ползут по полю, сталкиваются, передают информацию. На таких автоматах можно строить вычисления. Можно сделать универсальную машину. У фон Неймана вообще был клеточный автомат с универсальным конструктором - конструкцией, которая по заданному описанию способна строить другие конструкции, в том числе в определенном смысле воспроизводить саму себя. Из совершенно примитивных локальных правил получается поведение, которое со стороны выглядит черт знает как содержательно. И что? Будем спрашивать у ползущей конфигурации клеток, хочет ли она жить?

— Нет, - сказала Винник. - Но это пока доказывает только то, что сложное поведение само по себе не доказывает сознание.

Андрей посмотрел на нее.

— Именно.

— А ты-то начал с того, что сознания там нет.

Лапшин поднял бокал.

— Вот поэтому я люблю ужинать с судьей.

— Да ну, знаешь ли, - сказал Андрей. - Хорошо. Не доказывает отсутствие. Доказывает, что ваше любимое “смотрите, как сложно себя ведет” ничего не стоит само по себе.

— С этим никто не спорит, - ответил Сергей Борисович. - Но тогда у нас уже другая формулировка. Не “машина не может быть сознательной”, а “сложность ее поведения еще не доказывает сознание”. Это две совершенно разные вещи.

На несколько секунд разговор ушел к еде. Андрей возмутился, что сыр режут неправильно, Лапшин сообщил, что человек, который двадцать лет покупает один и тот же нож для сыра и все равно считает его бесполезным, лишен права формулировать эстетические претензии, Елена Владимировна наконец вспомнила, что обещала дочери позвонить, написала короткое сообщение вместо звонка и убрала телефон экраном вниз. Разговор можно было закончить на клеточных автоматах, и, наверное, нормальный человек так бы и сделал. Но вопрос никуда не делся.

— Хорошо, - сказала она. - Давайте совсем сначала. Что вы вообще называете сознанием?

Андрей пожал плечами.

— То, что есть у тебя и у меня и нет у холодильника.

— Это какое-то ненаучное определение.

— Ну а какое ты хочешь? Способность понимать происходящее, ощущать себя, иметь внутренний опыт.

Лапшин сразу спросил, а что значит “понимать”, Андрей ответил, что иметь внутреннюю модель мира и соотносить с ней собственные действия, после чего Сергей Борисович заметил, что навигационная программа тоже имеет модель пространства, знает собственное положение и меняет маршрут при изменении обстановки. Андрей сказал, что это “не такое понимание”, и сам рассмеялся раньше, чем Лапшин успел зацепиться за слово “такое”.

— Вот, - сказал Сергей Борисович. - Мы пять минут разговариваем и уже пришли к определению “сознание - это когда понимает, только по-настоящему”.

— А ты дай лучше.

Лапшин покрутил ножку бокала.

— Я бы для начала вообще ничего сложного не давал. Есть ли у происходящего для системы внутренняя сторона. Не просто обрабатываются ли сигналы, а есть ли что-то, каково это - быть этой системой. Боль не как регистрация повреждения, а как боль. Красный не как длина волны, а как переживание красного. Откуда мы например, знаем, что оба видим красный одинаково, а не так что ты видишь красный так, как я вижу синий? Или страх - что мы называем страхом изнутри?

— Прекрасно, - сказал Андрей. - И как ты это собрался проверить?

— А вот это как раз хороший вопрос.

Елена Владимировна посмотрела на мужа.

— А у тебя как проверили?

— У меня?

— Что у тебя есть эта внутренняя сторона.

— Лен, ты со мной тридцать лет живешь.

— Это стаж наблюдения, не метод.

— Я могу сказать тебе, что мне больно.

— Система навеврное тоже может сказать.

— Она обучена это говорить.

Сергей Борисович улыбнулся, но ничего не сказал. Андрей заметил улыбку.

— Что?

— Ничего. Просто ты тоже обучен это говорить.

— Родителями?

— В том числе.

Андрей отложил вилку.

— Так, понятно. Еще полбокала, и мы выясним, что меня дообучили на корпусе русской речи, а мать проводила “обучение с подкреплением ремнем”.

Елена Владимировна захохотала так громко, что сама удивилась. Потом вытерла угол глаза и сказала, что шутка не снимает вопроса. Конечно, ей несравнимо проще поверить в сознание Андрея, чем программы: он устроен примерно так же, как она, у него мозг, нервная система, те же реакции на боль, сон, усталость, лекарства, травмы; существует огромный массив общего человеческого опыта. Но ведь это тоже не наблюдение чужого сознания непосредственно. Это вывод по сходству.

— Да, - сказал Андрей. - И очень хороший вывод. Потому что у нас есть единственный известный класс систем, про которые у нас есть серьезные основания говорить о сознании, и все они биологические. Люди точно. Животные - в разной степени, но там хотя бы та же эволюционная история, похожие нервные системы. А у вас серверная стойка и матрицы чисел. Это не мелкая разница.

— Конечно не мелкая, - ответил Лапшин. - Только из того, что все известные нам сознательные системы биологические, еще не следует, что сознание требует именно биологического материала. Может требовать. А может требовать определенной организации процессов.

— “Может” - замечательное слово.

— Именно. Я не доказываю, что система сознательна. Я спрашиваю, откуда у тебя уверенность, что мы не должны с этим считаться только лишь потому, что она из кремния, а не из белков?

Андрей налил себе еще немного вина и некоторое время молчал. Елена Владимировна знала эту паузу: муж не искал красивую реплику, а действительно перестраивал аргумент, что нравилось ей в нем гораздо больше умения всегда побеждать в споре.

— Потому что “определенная организация процессов” пока тоже просто гипотеза, - сказал он наконец. - Мы знаем, что мозг работает физически. Электрохимия, нейроны, куча обратных связей, гормоны, тело, сенсорика, метаболизм - все это вместе. Потом кто-то берет трансформер и говорит: смотрите, тут тоже сеть, тоже слои, тоже какие-то внутренние представления, значит, наверное, сознание может выскочить. Почему?

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.