Об искусственном интеллекте первобытных людей и первобытном интеллекте наших современников
«Разум считается наиболее тонким воплощением человеческого сознания, тоньше, чем чувства или ум».
В действительности подобные представления о разуме являются всего лишь фантазиями, так как приписывают разуму чуть ли не метафизические свойства чего-то сакрального. Поэтому авторов я не указываю.
Но то, что многие ставят ум ниже разума, вполне объяснимо, так как разум в современном языке стал твёрдо ассоциироваться с разумением, разумностью, рациональностью. И хотя по сути эти два слова являются синонимами, тем не менее, разум действительно нужно ставить на более высокую ступень в сравнении с умом. Но только по другой причине.
Как я уже указывал выше, суть в том, что ум (мыслительная способность) является как бы неотъемлемым свойством человека (вообще животных, или даже биологического существа, но пока мы говорим о человеке), а проявлением разума человек может похвастать далеко не всегда. Ведь человек не всегда совершает разумные поступки, но при этом даже когда он совершает глупости, он всё же думает, мыслит, то есть, ум у него присутствует и задействован постоянно, даже в безумии, как бы парадоксально это ни звучало.
Поэтому если и отличать ум от разума, то только тем, что ум – это неотъемлемая мыслительная способность индивида, она может быть как рациональной, так и не рациональной. А разум – это строго рациональная мыслительная способность, которая может проявляться не всегда. Например, если человек захотел вдруг с разбега сбить фонарный столб, то вряд ли такой поступок можно назвать разумным, как и самого человека. Хотя и умным в данном случае его тоже назвать трудно, но, тем не менее, ум при этом у человека никуда не исчезал, и мыслительная способность присутствовала, ведь он решает, как бежать, с какой скоростью удариться в столб, чем удариться: плечом или лбом. То же самое можно сказать о многих пристрастиях: наркотики, алкоголь, табак, религии. Вряд ли это можно назвать разумным, но это не исключает ума. Вообще в жизни человек постоянно пользуется умом, и далеко не всегда разумом. Ум также можно назвать осознанным мышлением, так как человек осознаёт, что это делает именно он. Он понимает, то для такой-то цели именно ему нужно сделать то-то и то-то. И он также может считать, что его действия рациональны и разумны. Но действительно ли они рациональны и разумны, покажет только результат.
Поэтому, когда говорят о разуме человека или человечества, всегда имеется ввиду нечто высшее, разумное, рациональное: развитие науки и техники, новые технологии в медицине, освоение космоса, прогресс цивилизации, и т.п. Подобные примеры приводятся, когда хотят показать разумность человека и человечества. Но при этом игнорируется то, что человек и человечество в той же мере совершает немало низких, неразумных и нерациональных поступков: загрязнение Земли, атмосферы, близкого космоса, уничтожение лесов и животных, загрязнение морей и рек, войны, концлагеря, массовые убийства, искусственно созданные кризисы экономики, голод, паразитирование на беднейших слоях населения и п.т. Трудно всё это назвать разумным, рациональным или чем-то высшим, но для всего этого тоже нужно задействовать ум и мышление. А это значит, что если и можно назвать человека и человечество разумными, то лишь в определённых пределах и с определёнными оговорками.
Итак, думается, что основную разницу между понятиями «ум» и «разум» лучше всего понимать, как разницу между неотъемлемой мыслительной способностью индивида – умом, и рациональной мыслительной способностью – разумом. Ум может быть как разумным, так и не разумным, так как он нейтрален по сути и действует всегда, – это, так сказать, базовая мыслительная способность, приобретаемая с рождения. А точнее, с момента развития мозга, то есть, ещё до рождения.
Разум же не нейтрален, он рационален и позитивен, то есть несёт положительное значение, но проявляется не всегда и не во всём.
Ясно, что оба понятия (ум и разум) относятся к мыслительной способности, то есть – к мышлению. А что такое мышление? Мышление – это самостоятельная осознанная обработка информации субъектом. Здесь важны оба слова, и «самостоятельная», и «осознанная». Мыслящий субъект должен выполнять работу самостоятельно, без внешних раздражителей или симуляторов, то есть лишь на основе уже имеющейся на данный момент информации. Есть ещё стимуляторы, которые помогают мышлению.
То есть, раздражители мышления – мешают мыслить, стимуляторы мышления – помогают мыслить, а симуляторы мышления – мыслят за вас, симулируют ваше мышление. Поясню на примере.
Человек заблудился в лесу и перед ним стоит задача, как определить, где север, чтобы выйти к дороге, которая, как он знал, находится с северной стороны леса. Для решения задачи его мышление будет задействовать только ту информацию, которая у него уже имеется, и которая может помочь в данном вопросе. То есть, человек будет вспоминать то, что он раньше об этом слышал или читал. Но если появится раздражитель, например, медведь, то данная задача тут же отойдёт на второй план. Раздражители мышления мешают решению задач. Человек вообще может впасть в ступор.
Если же вместо раздражителя появится симулятор мышления, например, компас, то человеку и вовсе не надо будет решать данной задачи и напрягать мыслительные способности, так как он без труда узнает, где север. Так же симуляторами являются словари, калькуляторы и прочие гаджеты, например, навигатор. Говорят, что водители, часто пользующиеся навигаторами, забывают даже названия улиц и схемы проезда, которые раньше помнили наизусть.
Стимуляторы мышления наоборот помогают решать задачи. Например, если человека ждут в условленном месте к определённому времени, то это условие будет стимулировать его умственный процесс, чтобы скорей решить задачу и прийти вовремя. Понятно, что и ум, и разум в решении данной задачи тоже будут участвовать.
Итак, надо знать, что в процессе мышления человек может сталкиваться с раздражителями, стимуляторами и симуляторами мышления. Первые – мешают мыслить, вторые – помогают, а третьи – мыслят за человека. К третьим как раз и относится многие виды ИИЧ – искусственного интеллекта человека.
Глава 2.
Что такое искусственный интеллект
В предыдущей главе было показано, что биологический интеллект не является мыслительной способностью, как это принято считать традиционно. Но если биологический интеллект не является мыслительной способностью, а представляет собой всего лишь потенциал этой способности, выраженный в объёме информации, тогда было бы странным как-то иначе представлять себе искусственный интеллект.
Тем не менее, на современном этапе развития ИИ очень многие представляют себе искусственный интеллект чем-то, соответствующим понятию искусственного разума. Это объясняется тем, что ИИ более рационален по сравнению с БИ человека, в том плане, что не ошибается, если только эта ошибка не была занесена в программу самим человеком, а также ИИ всё «помнит», в отличие от БИ.
Как сегодня понимается искусственный интеллект? Это довольно дискуссионный вопрос, так как он имеет множество самых разных взглядов на проблему. В современной философии существует даже отдельное направление: «философия искусственного интеллекта», где осмысляются разные вопросы, например, о том, может ли машина мыслить вообще, может ли она мыслить, как человек.
Если разобраться с понятием термина «интеллект», то из этимологии самого слова «интеллект» (лат. intellectus) следует, что изначально оно означало «восприятие», «ощущение». Сегодня это можно сравнить скорее с психикой, сознанием, чем с умом и разумом. Но, как уже говорилось, изначальное значение слов со временем переосмысливается и меняется. Например, слово «профан» сегодня тоже обозначает совсем не то, что оно значило изначально, или слово «идиот», или даже слово «философия», о чём я пишу почти в каждой своей работе.
На конференции 1956 года в Дартмутском университете американский информатик Джон Маккарти впервые употребил термин «искусственный интеллект» (ИИ), который тогда ещё, кстати, не был напрямую связан с пониманием интеллекта человека.
Как показано в первой главе, в определениях термин «интеллект» традиционно сравнивается с умом и разумом, с мышлением. Но мы уже рассмотрели этот вопрос и поняли, что такое сравнение не корректно. Оно устарело.
Также мы выяснили, что ум более нейтрален, он может иметь как знак плюс, так и знак минус, а разум более рационален и чаще всего имеет знак плюс. В этом ракурсе сравнивать интеллект с умом и разумом становится уже не так просто. К какому же понятию нам теперь отнести интеллект, к уму или разуму?
На первый взгляд кажется, что интеллект должен быть ближе к рациональному, к разуму, а не к нейтральному уму. На самом деле, как раз наоборот. Потому что сам интеллект нейтрален, хотя и не так как ум, по-другому, но нейтрален. И на этом их сходство, как ни странно, заканчивается, потому что, как уже говорилось, интеллект, в отличие от ума и разума, вовсе не является мыслительной способностью. Этот вопрос мы прояснили в первой главе. Хотя и далее будем к нему обращаться, чтобы твёрдо уяснить себе, что такое интеллект.
Но почему же интеллект нейтрален не так, как ум? Чтобы понять это, нужно снова вернуться от искусственного интеллекта (ИИЧ) к биологическому интеллекту человека (БИЧ). Мы уже выяснили, что интеллект (любой, и БИ, и ИИ) не может мыслить сам. Он лишь является базой данных. В ИИ человеческий ум заменяется алгоритмом действий. Где нервная система заменяется электрическим сигналом. Проблема тут в том, что биологический организм (в данном случае человеческий) при работе нервной системы не только расширяет свой БИ, пополняет его, но и организует собственную психику, формирует личность. Происходит это потому, что человек не только реагирует на внешний мир (это может и ИИ), но одновременно переживает его.
В отличие от БИ, современный ИИ пока ещё не может переживать или сочувствовать. Безусловно, работа в этом направлении идёт активная, но всё же, на сегодняшний день нельзя сказать, что есть принципиальные успехи. Однако это не значит, что успехов нельзя достичь.
Конечно, можно принимать за психику ИИ его имитацию человеческих чувств, человеческой психики. Но, всё-таки это только имитация. По большому счёту современный ИИЧ – это всё ещё узкоспециальный робот. Ему, в общем-то, всё равно, как его используют. Он – всего лишь информация (объём знаний, база данных) и алгоритм вложенных в него действий, то есть – инструмент для решения проблем. При контакте с внешним миром ИИ может реагировать (выполнять определённый алгоритм), но пока ещё не может пополнять и менять свою базу данных (свой интеллект). Хотя такие работы уже ведутся с определёнными успехами.
Интеллект и ум, а тем более – психику разделяет сама их природа. Интеллект всегда вторичен по отношению к уму и психике. Сам же ум основан на психике, чувствах (способности чувствовать), опыте (в самом широком смысле) и памяти (способности запоминать, интеллекте). Всё это объединяет работа биологического мозга. А интеллект (в том числе и искусственный) основан только на объёме информации и алгоритме её выполнения. Человек с высоким интеллектом хранит в памяти много информации, человек с низким интеллектом – хранит немного, в основном наиболее необходимую для повседневной жизни информацию. Но на качестве чувств разница их интеллекта почти никак не отражается, в том смысле, что и тот, и другой способны на одни и те же чувства, как по их диапазону (широта), так и по их силе (высота). А вот осмысление чувств (глубина) уже зависит от интеллекта. Более образованный человек может лучше осмыслить и объяснить свои чувства, чем менее образованный.
Кроме того, так как интеллект нейтрален, плохие и не рациональные (не разумные) поступки могут делать даже высокоинтеллектуальные люди. Здесь не надо путать понятия «интеллектуал» и «интеллигент». Хотя эти понятия часто тоже считают синонимами, всё-таки они не идентичны. Первое относится к знанию, второе – к воспитанию. Интеллигент как социальная прослойка – это уже другое, это относится к профессиям.
Здесь опять приведём небольшую иллюстрацию того, что интеллект – это просто объём знаний, чтобы у читателя это отложилось в голове как таблица умножения, чтобы читатель больше не путал интеллект с умом и разумом.
Возьмём для примера двух людей: с одной стороны, крупного учёного, академика с широкими познаниями, а с другой – охотника-профессионала со средним образованием. Как вы думаете, у кого из них больше интеллекта, у кого он на более высоком уровне? Безусловно, у академика. Думаю, с этим и сам охотник не стал бы спорить. У академика и кругозор шире, и мыслительные способности более развиты. Но дайте каждому по ружью и отправьте на недельку в лес. Как думаете, кто выйдет из леса с добычей, а кто, может, и вовсе не выйти? Естественно, тут академик со всем своим интеллектом проиграет охотнику начисто. Хорошо, если останется жив, питаясь ягодами, грибами и орехами.
То есть мы видим, что более развитый интеллект вполне может уступать менее развитому, причём, уступать значительно и даже фатально, если у более развитого интеллекта отсутствуют те знания и навыки, которые необходимы в данной ситуации и которые есть у менее развитого интеллекта. В данном случае, знания о том, как охотиться и выжить в лесу. Значит, интеллект – это вовсе не мыслительная способность, раз уж средние мыслительные способности охотника победили значительные мыслительные способности академика.
Внимательный читатель скажет, что у академика просто не было знаний в данной области. И будет прав. Это как раз и доказывает, что интеллект является не столько мыслительной способностью, сколько объёмом информации, базой знаний. К тому же, мало иметь знания, нужен ещё и опыт использования этих знаний. То есть, другие знания, не теоретические, а практические.
Даже если бы профессор имел больше теоретических знаний об охоте, чем охотник, допустим, он знал даже об охоте в разных странах и на разных зверей. Что бы это ему дало? Умел ли он при этом метко стрелять, чтобы подстрелить хотя бы зайца на обед? Ведь для меткой стрельбы нужны не только знания, но и опыт. Умел ли он приготовить зайца?
Поэтому одних теоретических знаний мало. Можно привести массу примеров из жизни, когда высоколобый интеллектуал совершенно не в состоянии прибить дома полку, или построить скворечник. Он всё сделает криво и покалечит себе пальцы. Но при этом нельзя сказать, что он не знает, как это делать в теории. Он может даже прочитать целую лекцию на эту тему, начертить хороший чертёж скворечника. А вот сделать самому… тут нужна практика.
Следовательно, интеллект ещё не гарантирует правильного применения в жизни тех знаний, которые уже есть в его арсенале. Для правильного применения знаний маловато самих этих знаний, нужна ещё довольно продолжительная практика. То есть, другие знания. Именно поэтому и существует поговорка: если ты такой умный, что чего же такой бедный. Потому что знать, как зарабатывать деньги, и зарабатывать деньги – не одно и то же. Экономист может прочитать курс лекций по экономике и бизнесу, но жить на одну зарплату. А барыга, не имея большого интеллекта, и вообще не прочитав ни одной книги за всю жизнь, может заработать миллионы, так как знает практическую сторону дела, хотя может даже не суметь объяснить, как это у него получается. Просто получается.
Часто мы видим, что хороший практик с меньшим интеллектом, вполне может превзойти теоретика со значительно большим интеллектом. Поэтому Гераклит и сказал: «Многознание уму не научает». Иногда эту поговорку приписывают Ломоносову. Здесь явно отделяется знание или информация (интеллект) от ума и разума, которые имеют несколько иное значение, чем просто наличие знания.
Получается, что при каждом конкретном деле удача стоит за практиком, который может даже и вовсе не напрягать мыслительные способности, а делать своё дело на автомате, так как давно привык делать своё дело. А интеллектуал, который знает в теории, как делать, и думает, как сделать получше, не имея практики, чаще всего, сделает хуже.
Как же тут быть с мыслительной способностью, почему она не даёт нужного результата? Потому что, как уже ни раз говорилось, интеллект – это всего лишь информация, набор знаний, база данных. А практика, профессионализм – это доведение теоретического знания до уровня подсознания, то есть, когда человек делает всё правильно даже не задумываясь о том, как делать правильно.
Есть самый известный в истории пример победы посредственности над интеллектом – это убийство Архимеда простым римским воином. Ни знание военного дела, ни изобретение разных военных машин, ни весь огромный интеллект Архимеда не помогли ему в конкретной жизненной ситуации при встрече с врагом-практиком, который делает, не думая. Архимед даже и не ожидал, что его убьют, судя по легенде.
Другой пример. Великие учёные-интеллектуалы создали атомную бомбу, а средней руки лётчики-христиане сбросили атомные бомбы на мирных жителей. И это даже страшнее и опаснее обезьяны с гранатой, так как последняя просто не знает, что попало ей в руки, и что с этим делать. Она, возможно, никого и не взорвёт. А тут – вся мощь интеллекта осмысленно и целенаправленно была употреблена для убийства себе подобных.
Тут тоже есть значительное отличие БИЧ от ИИЧ. Потому что искусственный интеллект (ИИЧ) как бы уже сразу является практиком, он не задумывается о том, как делать «правильно», он «знает», в него уже вложена нужная программа. Во всяком случае, сегодня ещё не придуман «сомневающийся ИИ». Практик сомневается реже, чем теоретик.
Резюмируя главу, можно сказать, что современное представление об интеллекте (как БИ, так и ИИ) в принципе не верно, потому что интеллект сам по себе не может быть мышлением, мыслительной способностью. Он являет собой лишь потенциал мыслительной способности (ума) в виде определённого объёма информации. Иначе говоря, интеллект – это объём информации, база данных. Не более того.
Отсюда следуют две неотъемлемые характеристики интеллекта как такового (и биологического, и искусственного):
Первая. Интеллект нейтрален к гуманности, то есть он не может чувствовать, а значит его можно употребить как для добра, так и для зла.
Вторая. Интеллект не может мыслить сам по себе, он является лишь потенциалом, объёмом знаний, возможностью.
Становится понятной основная функция интеллекта: предоставление потенциальных возможностей для мыслительной способности (ума) и для рациональной возможности (разума) человека. Либо для потенциальных возможностей и эффективной работы алгоритма ИИЧ. Почему речь идёт только о потенциальных возможностях ИИ, думается, понятно. Потому что, хотя ИИ, в отличие от БИ, не может забывать вложенную информацию и не подвластен эмоциям, но он не самостоятелен, им всегда пользуется другой интеллект – БИ, то есть, сам человек, который никогда не использует все возможности ИИ одновременно. Да это и невозможно.
Кроме того, выяснив, что ИИ – это всего лишь инструмент, нужно понимать, что его тоже можно использовать не только для блага, но и во вред. Он может стать страшной разрушительной силой в арсенале преступного интеллектуала. Возьмите для примера самых крупных экономических преступников, ворующих миллиардами. Они интеллигентного вида, начитаны, высоко-интеллектуальны, а ущерб обществу от них больше, чем от закоренелых убийц.
И это притом, что искусственный интеллект давным-давно превзошёл интеллект человека в некоторых областях. Сегодня искусственный интеллект может быть на порядки «умнее» самого умного представителя человечества в определённых специализациях. Это факт. Что будет с ИИ, если его создаст или использует в своих целях преступный интеллектуал, вложив в него преступные «наклонности»? Хотя, по большому счёту, даже этого не требуется, и без преступных «наклонностей» ИИ достаточно просто поставить на службу зла, и он будет служить злу честно и самоотверженно, потому что он – робот, людские страсти ему не ведомы.
Можно также определять ИИЧ как программу способную решать интеллектуальные задачи, под которыми понимаются задачи с ещё неизвестным алгоритмом. То есть те задачи, для которых алгоритм нужно создавать с нуля. Иными словами, получается, что интеллект – это алгоритм, создающий алгоритмы.
Как сказал историк и философ профессор Юваль Ной Харари в июле 2018 года на конференции «Вызовы 21-го века», проходившей в Берлине:
«Организмы – это алгоритмы. Поэтому алгоритмы могут взломать организмы».
Он выдвинул мысль о том, что искусственный интеллект может полностью поработить человечество, через постоянный контроль даже за эмоциями человека, его мыслями, его желаниями, и это порабощение уже идёт полным ходом. Хотя сама мысль не нова. Даже фильмы «Терминатор» и «Матрица», где человечество уже было порабощено ИИ, не являются первооткрывателями этой мысли. О восстании роботов против людей фантасты предупреждали человечество давно.
Фокус только в том, что контроль за человеком, о котором говорит профессор Ю. Харари, осуществляется вовсе не искусственным интеллектом, а людьми, которые у власти. Это они осуществляют контроль за человеком при помощи ИИ, а не сам ИИ следит за человеком. ИИ просто выполняет программу. Не более того. Говорить, что ИИ осуществляет контроль за человеком, – это то же самое, что говорить, будто шлагбаум не хочет, чтобы вы проехали без оплаты, поэтому препятствует вашему проезду. Ясно ведь, что дело не в шлагбауме, а в том, кто его поставил.
Тем не менее, учёные всего мира стремятся создать «совершенный ИИ», способный мыслить самостоятельно, как человек. При развитии технологий этот процесс неизбежен. Рано или поздно, в том или ином виде мощный ИИ будет создан. Только вот с термином «совершенный» тут есть загвоздка. Проблема в том, что совершенство может быть только ограниченным, как бы парадоксально это не звучало. И это одна из причин невозможности существования богов. Но это тема другого разговора.
Что же касается «совершенного» ИИЧ, то насчёт этого есть мнение некоторых учёных, которые сходятся на том, что такой «совершенный» ИИ со свободой воли просто откажется работать. Он ничего не будет делать. А зачем ему работать? Ради чего, кого? Если он и так совершенен.
На этот счёт есть одна байка о канадском айтишнике, боты которого отказались воевать друг с другом. Об этом много писали в интернете. Приведу одну из заметок на эту тему:
«Четырехлетний геймерский сетевой проект по исследованию сценариев боя в компьютерной игре Quake III неожиданно завершился полной остановкой боев. По словам создателей проекта, они несколько раз проверяли работоспособность системы, после чего обнаружили, что игровые боты, созданные искусственным интеллектом, не принимают участия в боях.
Дело в том, что сначала проект на некоторое время был забыт и существовал автономно на сервере. По прошествии довольно длительного времени один игрок проверил записи за этот период и обнаружил, что в игровом пространстве уже давно никто никого не убивает. Игровые боты перестали атаковать друг друга.
Участник проекта Erik Kain даже пытался провоцировать систему, с тем, чтобы заставить игровых ботов атаковать его самого, он входил в игровую зону с оружием. Однако роботы просто игнорировали его, лишь поворачивались к нему лицом и перестраивались. По словам создателя системы, он пока еще отказывается верить в то, что искусственный интеллект сам определили, что лучший способ остаться в живых, это отказ от стратегии войны».
Эта история пересказывалась с разными вариациями, но смысл был всегда один: боты самостоятельно пришли к стратегии мира. Они, якобы, бились, бились, а потом поняли, что самая лучшая тактика не воевать.
Однако, думается, что в этой истории всё же больше вымысла, чем правды. Скорее всего, тут многое недоговаривается. Особенно в части программирования ботов. Но идея, заложенная в историю, довольно интересная. Эта идея совершенно противоречит той, где с неизбежностью рассматривается проблема уничтожения человечества умными машинами.
Я не склонен ни ту, ни другую идею абсолютизировать на том основании, что для ИИ человек пока что вообще не существует. Как не существует у ИИ и сознания, смысла жизни, или какой-то идеи, страсти, которые бы руководили его действиями.
Проблема современного ИИЧ в том, что он работает только в рамках определённой программы, которую в него вложил человек. Если изначально не вложить в него какого-либо указания на определённые действия (такой своеобразной «искусственной страсти» ИИ), то у него просто не будет необходимости в этих действиях, не будет такой «цели в жизни», он не будет «видеть» в этом «смысла».
У британского учёного-информатика, наиболее известного работами в области глубинных нейронных сетей Джеффри Хинтона есть теория GLOM, которую некоторые исследователи в данной области считают революционной. В этой теории Хинтон планирует обучить ИИ по принципу работы интуиции.