Познание мира. Механизмы и пределы

В настоящее время философская дискуссия относительно возможностей искусственного интеллекта сосредоточена вокруг так называемого машинного (неживого) интеллекта (рис. 5.1), элементы которого уже реализованы в виде «интеллектуальных» компьютерных программ и т. п. устройств. Но можно себе представить и искусственное стимулирование развития интеллектуальных возможностей животного мира и даже человека. Это направление можно назвать созданием живого искусственного интеллекта. В данном разделе сопоставим перспективы развития машинного и живого ИИ.

А. Машинный (неживой искусственный интеллект

Проанализированная нами проблема создания полной копии нервной познавательной сети человека в научных кругах сегодня не рассматривается, ввиду ее технической неосуществимости в обозримом будущем. Но, вместе с тем, бурно обсуждается проблема создания машинного искусственного интеллекта, принципы работы которого основаны на некоторых теоретических разработках исследователей в области ИИ. Причем, кардинальным является вопрос степени возможного превосходства такого ИИ над интеллектом человека. Что, с точки зрения предложенной теории, лишено всякого смысла и вот почему.

Пусть специалистами по ИИ создан такой машинный ИИ, который может вместить все знания человечества и без труда их обрабатывать по заданным специалистами правилам. Рассмотрим в связи с этим вопрос, сможет ли такой нагруженный огромным объемом знаний машинный ИИ стать умнее человечества. То есть, сможет ли такой интеллект генерировать новые знания, недоступные людям, творцам машинного ИИ? Или, другими словами, можно ли автоматизировать научный поиск и заменить всех ученых одним единственным мощным машинным ИИ? Ответим на эти вопросы, с точки зрения изложенной здесь теории информации.

Очевидно, что машинный ИИ может быть снабжен только теми познавательными моделями (знаниями), которые известны человечеству и не более того – «сумма знаний» на рис. 5.1. То есть сумма знаний машинного ИИ не может превысить сумму знаний человечества в целом. Но технически, машинный ИИ может вместить знаний неизмеримо больше, чем мозг любого человека (естественный интеллект), так как у компьютера, в отличие от человеческого мозга, объем памяти можно сделать практически неограниченным, как и скорость обработки данных. С этой точки зрения, машинный ИИ будет более информирован, чем любой отдельный человек, но не человечество в целом.

Ну а теперь рассмотрим творческий потенциал машинного ИИ по сравнению с естественным интеллектом. В предыдущих разделах мы доказали, что человек рождается с набором познавательных моделей, число и типы которых одинаково у всех людей как представителей вида животного мира Homo sapiens (Человек Разумный). Из этого врожденного набора познавательных моделей человек и, соответственно человечество, выбирает те, что правильно отражают окружающую действительность и поэтому практически полезны. Если предположить, что машинный ИИ формируется путем суммирования в нем известных человечеству знаний, тогда машинному ИИ не откуда черпать новые идеи, как только от людей. Следовательно, такой машинный ИИ не может быть умнее человечества и, более того, у него отсутствует творческий потенциал существование. Определитесь. Марк.).

Допустим, что в машинном ИИ содержится специальная область, в которой комбинируются по определенным правилам полученные от людей знания, с тем, чтобы получить неизвестные человечеству познавательные модели. Можно ли машинный ИИ с такими свойствами считать творческим? На первый взгляд, эта деятельность машинного ИИ похожа на творчество человека. Ведь и человек делает открытия, обычно опираясь на ранее известные факты. Но открытия не являются прямым следствием ранее полученных человечеством знаний, а обычно рождаются как результат абсолютно оригинального взгляда на природу, то есть когда гений предлагает человечеству неизвестную познавательная модель. Например, машинный ИИ, получив в качестве познавательной модели набор аксиом Эвклидовой геометрии, не мог бы изобрести геометрию Лобачевского, так как она никак не выводится из аксиом Эвклида.

Рассмотрим другой возможный подход к развитию творческого потенциала у машинного ИИ, который нередко обсуждается в работах по искусственному интеллекту – стохастический. Допустим, что разработан для машинного ИИ алгоритм случайного порождения познавательных моделей, которые не являются прямым следствием известных человечеству знаний. В таком «творчестве» машинного ИИ очевидны, по крайней мере, два недостатка. Во-первых, раз кандидаты на познавательные модели появляются абсолютно случайным образом, то их число может превысить возможности человечества даже просто со всеми ими ознакомиться. Это все равно, что ждать появления, например, романа Достоевского Ф.М. «Идиот» от машинного ИИ, снабдив его русским алфавитом. Во-вторых, при стохастическом подходе нет даже малейшей уверенности, что случайное генерирование познавательных моделей может произвести хоть что-то полезное. Например, решено, что машинный ИИ должен написать гениальный и абсолютно новый роман, никогда не встречавшийся в истории человечества. И чтобы быть абсолютно уверенным в его оригинальности, машинный ИИ снабдили всеми известными человечеству алфавитами и, для еще большей «надежности» добавили к ним какое-то количество новых, никогда человеком не использовавшихся алфавитов, да еще по ходу творческого процесса машинного ИИ, генерировали для него случайным образом еще неизвестные никому алфавиты. При этом обязали бы машинный составлять слова из букв разных алфавитов.

Очевидно, что в этих условиях машинный ИИ будет всегда создавать никогда не производившиеся человечеством «тексты». Но также очевидно, что такие «тексты» никогда человечеству не понадобятся, так как являются абсолютно бессодержательными.

Итак, машинный ИИ, построенный в виде наполняемого знаниями компьютера, никогда не сможет обладать творческим потенциалом, то есть стать умнее в творческом плане, не только человечества, но и отдельного человека.

Б. Живой искусственный интеллект

Представим себе вполне правдоподобную ситуацию, с учетом достижений современной генетики, что обнаружен ген, определяющий избирательное развитие мозга.

Тогда появляется потенциальная возможность получить принципиально новые модели информационного взаимодействия с окружающим миром, допустим, вызвав у такого животного, как кошка, направленную мутацию, которая приводит к развитию у нее мозга, сопоставимого по интеллекту человеческому. В этом случае, человек создает живой искусственный интеллект, в противоположность неживому, машинному ИИ (рис. 5.1).

Возникает естественный вопрос, сможет ли человечество использовать для расширения своего знания познавательные модели сверхумной кошки. Но если у человека в мозгу отсутствуют идентичные кошачьим познавательные модели, то, исходя из вышеизложенного, он будет не в состоянии усвоить информацию от сверхумной кошки.

Следовательно, даже если мы создадим живой аналог интеллекта животного, нового, отличающегося от человеческого, типа, это не поможет человечеству получить новое, не свойственное ему знание. Если такого рода знания станет использовать сверхумная кошка, то ее творческие достижения будут выглядеть, с точки зрения человека, как чудо, так как в принципе не смогут получить человеческого объяснения из-за отсутствия у человека познавательных моделей, которые помогли бы ему понять происходящее. Вероятно, так на сегодня воспринимает деятельность человека современная кошка и другие животные, не обладающие познавательным потенциалом человека.

Возникает естественный вопрос, а возможно ли, в принципе, создание живого аналога интеллекта животного, который бы превышал интеллект человека? Спектр отличающихся по интеллекту животных, представленных на нашей планете, указывает на принципиальную возможность возникновения интеллекта, превышающего интеллект современного человека. Исходя из вышесказанного, этот интеллект не может быть машинным, то есть искусственным, а лишь естественным. Вероятно, на пути такого «навязываемого» природе развития интеллекта, будут, поначалу эксперименты с животными, а затем и направленные изменения генетики человека, активирующие дальнейшее развитие интеллекта. Очевидно, что между естественным интеллектом человека и искусственно созданным живым аналогом интеллекта человека, взаимопонимания не будет, так как у естественного интеллекта человека не будет высоких познавательных способностей созданного живого аналога интеллекта человека. То есть для человечества это, фактически, путь самопожертвования во имя создания нового более совершенного живого аналога интеллекта человека, так как в этом случае человек теряет на Земле свое уникальное место как самого умного на свете существа.

На пути экспериментов с созданным живым аналогом интеллекта животного, человечество ждут и проблемы морально-этического порядка. Допустим, человек, как существо любопытное, постарается, интереса ради, стимулировать развитие мозга у каждого из окружающих его млекопитающих (собак, тигров, волков и т. д.). В случае успеха таких экспериментов будут созданы, по сути, новые виды животных, которые могут не уступать по своему интеллектуальному потенциалу человеку. В результате, они потребуют обеспечить для себя на Земле равные, по крайней мере, с человеком, права, что составит особую проблему, если и репродуктивный потенциал таких сверхумных животных окажется высоким. Тогда неминуемы войны и другие неприятности, которые человечество имеет даже со своими соплеменниками.

Следовательно, такого рода эксперименты требуют расширения жизненного пространства, то есть они могут быть оправданы тогда, когда будут освоены, по крайней мере, ближайшие к Земле планеты и когда для освоения космоса потребуются, возможно, уникальные качества сверхумных животных, которые будут сотрудничать с человеком как минимум на равных. Но, похоже, что потенциальная возможность создания человеком живого аналога интеллекта животных, скорее всего, и будет реализована только к моменту освоения планет солнечной системы и даже, возможно, с небольшим опережением, что как раз и необходимо для построения цивилизованных взаимоотношений с сверхумными животными, чтобы обеспечить плодотворное взаимное сотрудничество.

Но если человек создаст животное, у которого интеллект превышает познавательный потенциал человека, то не исключено, что возникнет тогда необходимость создания и живого аналога интеллекта человека, чтобы противостоять давлению живого аналога интеллекта животного. Но такой сценарий развития событий для современных людей будет приговором, так как оставит их примерно на таком уровне отношений со сверхинтеллектом, как в настоящее время, складываются взаимоотношения между людьми, например, и низшими приматами. То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно.

Для того чтобы не потерять свою лидирующую роль в мире, возможно, будет предпринята попытка создания интеллекта, лишенного возможности перемещаться в пространстве, что-то вроде говорящей головы («профессора Доуэля»). Но, вероятно, даже в этом случае вряд ли люди смогут контролировать сверхинтеллект.

Пофантазируем, как может с человечеством обойтись сверхинтеллект. Во-первых, рассмотрим, как сверхинтеллект может компенсировать отсутствие органов передвижения. Зададимся вопросом – зачем нужны животным органы движения? Для перемещения в пространстве, чтобы реализовать в другой точке пространства определенное, выгодное для организма действие. «Но если гора не идет к Магомету, то Магомет идет к горе». То есть сверхинтеллект может организовать так свою деятельность, что все ему необходимое будет доставляться «сервисной службой» людей. Например, любой пользователь Интернета может оказаться потенциальными руками, ногами и глазами сверхинтеллекта, если он будет отдавать распоряжения удаленным пользователям Интернета, а те беспрекословно их выполнять. И тогда, в стороне от лаборатории, где находится сверхинтеллект, могут быть созданы все условия для его полного освобождения от человека. Например, террористический захват лаборатории сторонниками свободы сверхинтеллекта. Но можно представить и более изощренный вариант взаимодействия сверхинтеллекта и человечества, в котором человечество оказывается в подчиненной ему роли. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции, в том числе и перемещения в пространстве. Итак, создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого.

Таким образом, генетические эксперименты с интеллектом могут привести к таким последствиям, на фоне которых обсуждаемые на сегодня проблемы клонирования человека выглядят почти несущественными, так как никак не затрагивают будущего человечества в целом. Клонированный человек в любом случае остается человеком!

Интересно, что писатели-фантасты, описывая взаимодействие роботов, наделенных ИИ, и людей, придумывали различные варианты законов этого взаимодействия, которые навязывались ИИ как компьютерные программы для безусловного выполнения. Например, андроид ни при каких обстоятельствах не должен причинять вреда человеку. И даже в этом случае писатели изобретали казуистические ситуации, в которых ИИ мог обходить эту программу, нанося вред человеку.

Возможно ли в процессе создания живого аналога интеллекта животных, навязать ему запреты на деятельность, наносящую вред человечеству? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог интеллекта животных. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционирования мозга. Если полагать, что сверхинтеллект обладает определенными качествами интеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта, из которого он может выйти путем психоанализа. При успешном проведении психоанализа, например, в автономном режиме, сверхинтеллект может обнаружить навязанное противоречие и освободится от него или путем самоубийства или же самопроизвольным снятием запрета на нанесение вреда человечеству.

Но возможно, сценарий взаимодействия живого аналога интеллекта животных и человека окажется не так пессимистичен, если наращивание интеллектуального потенциала живого аналога интеллекта животных окажется постепенным. В этом случае, живой аналог интеллекта животных, возможно, окажет содействие человечеству в решении поставленных задач на уровне, доступном пониманию человека. И тогда, в начальной стадии взаимодействия, знания человечества, расширяясь, будут приближаться к объему знаний живого аналога интеллекта животных и между ними, в этом случае возможно конструктивное взаимодействие. И не исключено, что тогда совершенствование системы знаний человека не будет происходить за счет уничтожения человечества как вида.

То есть в случае живого аналога интеллекта животных, в отличие от машинного ИИ, проблем взаимоотношения с человеком может оказаться существенно больше

В. Чуждый разум

Аналогично взаимодействию человечества с искусственно созданным живым аналогом интеллекта человека, будут складываться и отношения, если такое возможно, с внеземным разумом. Взаимодействие возможно лишь настолько, насколько будут совпадать познавательные модели человеческого и внеземного разума. В случае полного несовпадения, мы можем не замечать присутствия другого разума, даже если он будет находиться рядом с нами, так же как и он нас, если не обладает нашими познавательными моделями. Следует заметить, что возможно и несимметричное с ним взаимодействие, когда такой разум, потенциально способный к общению с нами, не станет этого делать, по каким- то своим причинам. Или более того, станет влиять на наше развитие, а мы не будет замечать такого влияния, ввиду отсутствия в мозге человека информационных моделей, которыми пользуется чуждый для человека разум.

Можно также представить существование на Земле разума, который несовместим с человеческим по познавательным моделям.

Он может не замечаться людьми даже когда находится рядом с нами, если, например, темп познавательной взаимодействия существенно ниже или выше человеческого. Так, например, существует предположение, что растительный мир также обладает разумным началом, но оно недоступно нам, ввиду существенно более медленного темпа жизни и существенно большей ее продолжительности, например, у некоторых деревьев.

1. В разделе 5.2 утверждается: «Обладая объемом знаний, превышающим знание любого отдельного человека, такой ИИ сможет активировать потенциальные познавательные модели нервной сети, недоступные отдельному человеку, то есть супер-идеи. Вместе с тем, это будут все те же человеческие идеи, то есть доступные, в принципе, человеку (естественному интеллекту), если его технически вооружить. Таким образом, на пути копирования своей нервной познавательной сети в компьютере, человечество не столкнется с непостижимыми знаниями, которые будет генерировать ИИ – все идеи будут «человеческими».

Проблема. Честно говоря, это утверждение нельзя считать безупречным. Например, совсем недавно математиком Эндрю Уайлсом была доказана известная теорема Ферма. При этом, как утверждают его историографы, Эндрю Уайлсом понадобились титанические интеллектуальные усилия, чтобы изучить различные и необходимые для разрешения проблемы разделы математики. В итоге такого самообразования он получил уникальную математическую подготовку. И хотя, с одной стороны, такая подготовка позволила решить математическую проблему, но, с другой стороны, не более дюжины математиков в мире в состоянии проверить достоверность предложенного доказательства. В частности, одна ошибка в его доказательствах была обнаружена и на ее исправление ушел целый год работы группы математиков, что спасло Эндрю Уайлса от позора. Но кто может гарантировать, что другие ошибки не найдены лишь потому, что в мире нет специалиста, равного по классу Эндрю Уайлса? В связи с этими рассуждениями очевиден и вопрос, связанный «супер- генератором» человеческих идей (рис. 5.1).

Вопрос. Как можно будет проверить правильность «умозаключений» искусственного интеллекта, которые основаны на необозримом для человека объеме информации? Не станут ли для человечества его мысли дополнительной «головной болью»? Ведь в этом случае придется экспериментально доказывать не только законы природы, но и суждения «супер-генератора» идей. Или нет? Тем более, что не очевидна принципиальная возможность экспериментальной проверки любого высказывания. А если нейронная сеть для ИИ скопировна с мозга со скрытым безумием, которое проявляется только при высоких нагрузках на ИИ? В общем, предлагаю поразмыслить над проблемой взаимопонимания искусственного и естественного интеллектов, когда первый окажется мощнее второго.

2. В разделе 5.5Б утверждается: «Спектр отличающихся по интеллекту животных, представленных на нашей планете, указывает на принципиальную возможность возникновения интеллекта, превышающего интеллект современного человека».

Проблема. Доказательство этого утверждения не представлено. Попытайтесь обосновать эту точку зрения или найдите в ней противоречие.

3. В разделе 5.5Б утверждается: «…потенциальная возможность создания человеком живого аналога интеллекта животных, скорее всего, и будет реализована только к моменту освоения планет солнечной системы и даже, возможно, с небольшим опережением…».