2120. Ловушка для AI
Леонид Резников
Так ли уж необходимы в нашей жизни искусственный интеллект и тотальная "цифровизация" общества? Не обернется ли это катастрофой для человечества? Одно можно сказать определенно: всему нужна мера! Ну а если ее нет?..
Леонид Резников
2120. Ловушка для AI
«Я не пытаюсь предсказать будущее – я пытаюсь его предотвратить»
Рэй Бредбери
«В мире, созданном Господином, есть место для всех. Для вас, бедных людей, тоже есть место»
Айзек Азимов, «Я, робот»
Умение смеяться над собой, а не над другим – одна из важнейших отличительных особенностей истинного проявления разума. Именно оно позволяет нам осмыслить собственные поступки и ошибочные суждения, а главное – стать лучше.
Предисловие автора
Уже после написания и публикации книги решил добавить предисловие. Книга может показаться резковатой, но и проблемы, отраженные в ней, на мой взгляд, нельзя назвать далеко пустяковыми. Упадок образования, деградация морали и нравственности, инфляция истинных ценностей, фальшивые идолы. Разве это не может не настораживать? Кто-то со мной не согласится – я, разумеется, не настаиваю, – но давайте попробуем разобраться вместе.
Образование – заострим внимание на этой животрепещущей теме. Один из видных политиков однажды, не так давно, сказал, что раньше была попытка формировать человека-творца, а сейчас нам необходим потребитель, способный квалифицированно пользоваться результатами творчества других. Действительно, зачем нам творец, мыслящий человек? Будем потреблять результаты чужой (интересно только, чьей?) мысли. И, похоже, эта идея действительно прочно укоренилась в головах многих чиновников. Сокращаются часы на изучение литературы, витает мысль об отмене преподавания высшей математики в старших классах – зачем, действительно, потребителю математика? Астрономия – не нужна, физика – пустое, родной язык – компьютер всегда подскажет, где ошибка. А школы уже не учебные заведения, а организации, оказывающие образовательные услуги, то есть нечто вроде булочной: продал булку – и свободен. Они должны не научить, а отчитать материал.
И вот уже появляются на просторах нашей бескрайней родины выпускники, могущие совершить в слове «ничего» сразу четыре ошибки – «не чиво». Честное слово, сам видел! Или вот еще перлы соцсетей: «прадам шафанер», «патамушта нада», «хачу чорный» – список можно продолжать до бесконечности. И даже «мудрые» планшеты не спасают от безграмотности. Продавцы, не умеющие сложить две цифры, планировщики маршрутов, не знающие географии даже собственного региона, человек, не могущий с первого (и со второго, и с третьего) раза корректно написать заявление для устройства на работу… Смешно и страшно. А что будет дальше?
Но на достигнутом не стоит останавливаться. Онлайн образование! Действительно, какая, по сути, разница, будут отчитывать материал учителя, или ученик посмотрит предварительно записанный урок, а после выполнит тесты, в которых ему нужно будет правильно расставить предложенные фразы, отметить галочками или соединить нечто линиями. К тому же, это ж сколько средств можно сэкономить: ни тебе школ, ни учителей. Институты и академии объединяются, идет сокращение числа научных работников, развитие науки и образования тормозится. И в этой ситуации только искусственного интеллекта, на который в последнее время едва ли не молятся, и не хватало. Что он такое по сути, мало кто себе представляет, но на его развитие выделяются огромные деньги. И ведь не просто так!
А вещь это очень простая, на самом деле: ума (пардон, интеллекта!) в ней – на копейку, зато возможностей – хоть отбавляй. И это вовсе не шутка – чистая математика, и ничего более. Пока еще ни один искусственный разум не смог превзойти по интеллекту муравья.
Но сначала насчет ума. Вы пробовали когда-нибудь общаться с ИИ-техподдержкой банка или мобильного оператора? Уверен, что, да. Не знаю, как выходило у других, но, после пары безуспешных попыток объясниться с ним, теперь меня хватает исключительно на одно слово: «оператор». Достаточно представить себе, что ты пытаешься беседовать с бестолковым компьютером, не имеющим представления ни о том, чем он занимается, ни о себе, ни о клиенте, ни о мире вообще, в котором существует. Хитро написанная программа, работающая по шаблону: шаблонный вопрос – шаблонный ответ. А автомобильный ИИ? Хотелось бы посмотреть, как «умная» машина проедет по нашим разбитым дорогам. Здесь даже приобретенный в автошколе навык езды змейкой – и тот не всегда выручает. А если яму еще и водой зальет, тогда что? Не говоря уже о погнутых или полузатертых знаках, велосипедистах, полагающие, что обладают безграничным приоритетом движения, снующих по проезжей части пешеходах и разномастных лихачах.
Теперь о пользе ИИ: эта штука, после соответствующей тренировки, отлично справляется как с распознаванием голоса, так и изображений. Бесполезно, скажете? Ан-нет – на самом деле чистой воды коммерция. Мало взрастить потребителя, его еще нужно научить покупать и заставить потратить деньги. Человек сейчас постоянно «самопиарится» в соцсетях, ищет что-то, покупает в интернете. Это же богатейший материал для обработки, а кто лучше и быстрее ИИ справится с подобным? Вот и выходит, что ИИ, в отличие от науки и образования, крайне полезная вещь, приносящая реальную прибыль.
Да, взрастить настоящего потребителя ой как сложно. Сколько сил необходимо приложить, чтобы смысл жизни человека свелся к банальному «хочу», а еще лучше «хочу во что бы то ни стало». Мыслящего и оттого сомневающегося идеального потребителя не существует в природе – несовместимые понятия. Но все еще впереди. И уже скоро стыдно и даже неприлично будет называться умным человеком, поскольку это будет оскорблять чувства неучей, принципиально не желающих ничего знать. Думаете, перегиб? Хорошо бы, если так. Только вот уже сейчас в нашу жизнь плотно вошло зарубежное словечко «ботан». Да и высокооплачиваемая работа, как правило, уже не требует ни специальных знаний, ни талантов, лишь моторные навыки, приобретаемые в течение пары-тройки месяцев, в отличие от грошовой, где приходится учиться несколько лет, а то и всю последующую жизнь. Не странно ли это?
Так, из самой образованной, творящей и читающей, страна постепенно превращается в едва ли не самую бессмысленно тыкающую пальцами в экраны.
О эти «умные» устройства! Сколько из-за вас потеряно впустую часов, дней, месяцев, лет, которые можно было бы потратить на общение с семьей, с друзьями, на хорошую и добрую книгу, на красивую поделку – да мало ли на что. Сколько же людей пострадало от вас и сколько еще пострадает? Не смог пройти собеседование или вылетел с работы, угодил под машину или влетел в столб, покалечился в погоне за лайками или не уследил за ребенком… И кто знает, в какой тупик заведет человечество этот навязанный ему путь.
А закончить хотелось бы несколько перефразированными словами Уилла Роджерса: «Не дай нам бог дожить до того дня, когда все будет так плохо, как об этом написано выше»[1 - В оригинале звучит: «Не дай нам бог дожить до того дня, когда все будет так плохо, как об этом пишут газеты». Уилл Роджерс.]
Часть 1
Глава 1
До чего дошел прогресс! Ох, несчастное наше начало двадцать второго века. Сплошной искусственный интеллект, где надо и где не надо. Обо всем-то он заботится, все-то лучше всех знает. Вроде как и думать-то самому уже нет необходимости: всегда подскажут, всегда направят в нужную сторону, все сомнения одним махом развеют и на путь истинный наставят. Скоро, глядишь, даже ходить и говорить сами разучимся. Изобретут какой-нибудь нейрочип, в мозг вживят – вот тебе и ноги ходят, и руки ложкой орудуют, и рот разевается когда нужно. Одним словом, бот рефлекторно-самоходный. Бр-р, аж самого от этих фантазий до нутра пробрало! И что говорить о рядовом обывателе, если даже психи, и те измельчали. И кому, как не мне о том знать, если сам псих и целый день их вижу.
Раньше всё Наполеоны с Ньютонами попадались, Диогены разные – безобидный, скажу я вам, народ. Мне, правда, застать их не привелось – старожилы рассказывали. Наполеон, к примеру, мнил себя в заключении на Эльбе. Подушек у соседей понатырит, обложится ими и сидит на кровати, носа не кажет, а коли в туалет приспичит, так на «плоту» добирается. Только чтобы линолеум не царапал, ему санитары колесики к плоту тому приделали. А весло отобрали, так что бедному Наполеону руками приходилось грести.
Ньютон – так тот все яблоко головой ловил: подкинет и бежит ловит. А как поймает, так на тему тяготения и мироздания разглагольствовать начнет – заслушаешься! Философствующего Диогена замучились из стиральной машины вынимать, Архимеда – из ванны, а уж если стукнет ему чего в голову, так выскочит из душевой и давай в чем мать родила носиться по коридорам с воплями «Эврика» и всякими постулатами да формулами сыпать без остановки. Впрочем, опасные тоже, говорят, попадались, чего уж там! А самым страшным из них Кулибин оказался. Этот все механизмы разные день и ночь изобретал и всем втихаря на испытание подсовывал. То дверь самозакрывающуюся не вовремя, с задержкой, сообразит, то шкатулку музыкальную из кровати соседу сделает, так что вся больница потом на ушах всю ночь стоит, а то еще как-то катапульту из кресла изобрел и главврачу подсунул… Зевсы были, Македонские, Гераклы, даже Шаляпин с Пушкиным! Правда, и тогда дураков всяких хватало. Один, к примеру, страусом себя возомнил – пришлось ему на голову боксерский шлем напялить, чтоб, значит, последние мозги себе о бетонный пол не вынес ненароком.
А сейчас что?
Человека Паука на днях к нам подселили, так тот наплюет на руку да соплями в стены пулять начнет, а потом давай на решетках виснуть и по стенам прыгать. Не особо, правда, получалось, но парень настырный попался. Или Лунтик еще был – всех измучил, под ноги каждому кидался, чтоб на пузо ему наступили. Смешарик – так тот колобком свернется и целый день катается да хихикает как ненормальный, пока не пнет кто-нибудь. И ведь ни одного великого человека! Да и откуда им, собственно, взяться, коли интеллект на нуле.
Это психические, а врачи, думаете, лучше? Раньше, говорят, врачи толковые, образованные сплошь были, не чета нынешним: сразу знали, от кого чего ожидать да как лечить, потому как начитанные были, всесторонне развитые. А теперь сами посудите: привезли как-то Сталина. Кто такой – ни один врач не в курсе, а тот все трубку курит, выхаживает важно, на всех косится и к порядку приводит. Вроде безобидный, но кто его знает. Врачи даже целый консилиум ради него собрали – не знают, от чего лечить: то ли бред у него, то ли расстройство настроения, а может, и раздвоение личности. Интеллект искусственный только руками разводит. Пришлось историка вызывать для консультации. Тот тоже специалистом крупным оказался, нарисовал кошмар во плоти. Так что бедный Сталин теперь в одиночке сидит. Впрочем, может ему там и лучше, по крайней мере, идиотов всяких не видит. Вообще не понимаю, чего идиотам в сумасшедшем доме делать? Я так думаю: нечего нормальных психов в идиотов законченных переиначивать! Свой у них мир должен быть, чтоб сами там в собственном соку варились.
Впрочем, действительность сейчас неоднозначная, все перемешалось в мире. Поди разбери, как говорится, ху есть ху? Ведь и псих, если честно, уже не тот, что раньше, о чем я уже говорил, но еще раз повторю, потому как наболело. Иногда и не разберешь, псих он или обычный идиот. Никого не хочу обидеть – есть нормальные мыслящие люди, есть! Хомо сапиенсы – ух, уважаю! А не хомо-аранеа или хомо… Как по латыни Лунтик будет? Не подскажет кто? Не подскажет… А латынь – это язык такой, мой дорогой Призрачный Гонщик… Нет, не вру… Нет, не язык троллей, Гарри ты наш Потный! И спрячь, ради бога, свою «волшебную» палочку! О-хо-хо, беда прямо с этими идиотами!.. А Гонщик наш, кстати, еще тот чудик: маску обезьянью напялит, подожжет на себе одежду и носится по коридору, мотоциклом рычит. Мы на всякий случай всегда огнетушитель держим двойного назначения: как затушишь его да по башке пустой железякой съездишь – опять в человека на время превращается.
А сам-то кто я, спросите вы. Охотно скажу: псих я, самый обычный что ни на есть, самый заурядный из всех заурядных. Ни талантов, ни гордыни, ни спецнавыков, соответствующих конкретной личности. И зовут меня по-простому – Федор. Нет, не дядя Федор… И не тетя, тем более! С обществом я не ужился, и, если честно, уживаться с ним нет у меня ни малейшего желания. Общество таких, как я, не любит, сразу психами окрестить пытается. Ведь если что не так в человеке, отличается чем от остальных, думает иначе или вообще просто думает, что в нашем двадцать втором особо актуально, то сразу ярлык на него: «Ненормальный!» Но себя, конечно, при этом нормальными мнят, полноценными. Ведь все тесты в школе сдали, галочки понаставили, аттестаты получили, институты закончили, за что дурацкие шапочки с кисточками заработали. А спроси, сколько будет десять помножить на два, так за калькулятор сразу хватаются. Не все, разумеется, такие, есть и вполне нормальные, образованные люди, и им, уверен, непросто жить в нашем прогрессивном мире, где свой интеллект уже не требуется, а только мышление на уровне машинной логики.
Ну, сами посудите: у одного ученика спросить вот решил, когда еще на свободе жил: как тебе «Евгений Онегин»? А он в ответ: «Не знаю такого! Кореш твой, что ли?» Хамство неприкрытое проигнорировал – это уже у них в привычку вошло, у недорослей. Да и слово им в ответ не скажи – мгновенно куда надо сообщат, мол, насилие над личностью детской ранимой. Ты что, говорю, классика не читал? Какого еще, спрашивает, классика? Обычного, который «Онегина» написал. Читал, отвечает, да подзабыл. Попросил вспомнить – интересно ведь стало! А тот: варианты, говорит, давай! Какие такие варианты, понять не могу, а он мне: ну какие? «а», «бэ», там, «цэ»… Ну, ладно, отвечаю, вот тебе варианты: Пушкин, Пупкин, Добкин. Задумался тот. Долго думал, губу кусал, затылок чесал. Пупкин, говорит. Почему, спрашиваю? «Ну как же! – отвечает. – Пушкин – он пушками явно занимался, по фамилии ведь ясно». Логика, чтоб ее!.. «Добкин вроде как эффект крайне полезный и очень нужный изобрел, а вот Пупкин – тот как раз подходит, методом исключения». Думал я, думал, какой же это эффект Добкин, то бишь, Добчинский гоголевский изобрести мог? Так и не дошло до меня. Кучу информации перерыл, и оказалось не Добкин то вовсе был, а физик Доплер…
Эх, верхушечники-недоучки!
А после того как столицей Англии оказался Олд-Йорк, потому как Старый Свет, нанометр – хитрой технологией для вышивальщиц, а вирусная клетка – «сэндбоксом» с «трояном», я понял, в школе мне больше делать нечего, а то, чувствую, по их скоро запою…
Учитель я. Вернее, бывший. Не выдержал, сбежал. Не только от учеников своих развитых, всячески продвинутых, а и от всего остального, включая технический прогресс. С чего началось, спросите? Ну, с чего… С интеллекта искусственного, с чего же еще? Подсадили на него народ. Шагу без него человек ступить уже не может.
Но обо всем по порядку.
Давно уж новомодным стало этот самый искусственный интеллект пихать куда ни попадя, разве что в домашних тапках его еще нет и в стенах домов, в чем не совсем уверен: холодильник за продуктами следит, решает, как от денег моих быстрее избавиться; стиральная машинка носки стирать отказывается, мол, пахнут не очень – лучше новые купи; кровать верещит, стоит только заснуть, не ложись на тот бочок – ложись на этот; чайник взбунтовался – воду кипятить не хочет, потому как ему, видишь ли, жесткость воды не нравится, мала она. Не сразу допер, в чем суть с чайником, а потом понял: быстрее накипь появится – быстрее сгорит – быстрее новый куплю… А тут еще телевизор заблокировался, на экране крупными буквами надпись вывел: «Система устарела. Требуется замена». Жалко, хороший телевизор был, бестолковый, только с пульта нажатия воспринимал и передачи показывал. Пришлось волей-неволей новый покупать…
Пришел в магазин, стал телевизор выбирать. А со всех стен реклама кричит: интеллект, интеллект!.. Ну на кой телевизору интеллект, скажите на милость? Его дело передачи принимать и людям показывать. Не-ет, слишком просто! К тому же большинство людей с пультом уже и не справятся. Скажете, придумываю все, на людей наговариваю? Как бы не так! Зашел как-то ко мне знакомый о том о сем поболтать, а пока я чайник ходил ставить, тот решил телевизор включить. И что вы думаете? Он минут десять уговаривал его включиться – на пульт даже внимания не обратил! Я ему: пульт же вот он! А он на меня будто на придурка какого косится. Какой еще, спрашивает, пульт? Я ему втолковывать взялся: телевизор старый, не говорит, не думает, а только показывает, а настраивается и переключает каналы пультом. Взял мой знакомый пульт, долго вертел перед глазами, кнопочки резиновые пальцем гладил, а потом говорит ему: «Включись!» А вы говорите…
Побродил я, значит, по магазину: все телевизоры как один – корпус тонкий, спереди лишь экран виден. Картинки на всех одинаковые – яркие, четкие, разве что художник какой глазастый разницу заметит. Одни огромные, будто на зрение какого-нибудь слона рассчитаны – в стандартную квартиру его не впихнешь, а если и впихнешь, то головой вертеть замучаешься. Другие поменьше, приемлемых размеров. И все – прямо беда! – лэйбл имеют: «AI». У некоторых «AI» с двумя плюсиками, то бишь, умен не по размеру, у других – даже по три, а то и по четыре плюса. Эти, похоже, сами передачи смотреть могут, а еще и в магазин сходить, пол пропылесосить и кофе сварить. Я этот вопрос консультанту задал, так он долго смотрел на меня, понять не мог, шучу я или всерьез спрашиваю. Потом решил по-деловому к клиенту подойти: нет, говорит, кофе не варит и пылесосом тоже не управляет, хотя с другим оборудованием в доме контакт имеет для уточнения предпочтений хозяина. Каких, спрашиваю, предпочтений. А он мяться начал: всяких, говорит. И ничего я из него больше не смог вытянуть.
Походил еще по магазину. Может, где менее умный телевизор завалялся, а консультант за мной лисьим хвостом вьется, советы дает с рекомендациями. Надоело мне это и спросил я его напрямую:
– Есть у вас тупые телевизоры?
– Это как? – растерялся тот.
– Очень просто: молчит, не думает, ни с кем не связывается, ничего не слышит и не видит, а занимается исключительно своими прямыми обязанностями.
– Нет! – решительно отрезал консультант. – Таких телевизоров у нас в наличие нет. Да и кому они нужны?
– Мне, – отвечаю. – Мне нужны.
Тот только и пожал плечами, отмолчаться решил. По лицу вижу, решил, будто кто из их конторы его проверять пришел, как он с клиентами себя ведет. Не стал издеваться над ним, указал пальцем на первый попавшийся телевизор – этот, говорю.
Разулыбался консультант, ожил:
– Превосходный выбор! Отличная модель! Правда, прошлого года.
– А чем отличается от моделей нынешнего?
– Ну как же! – всплеснул тот руками. – Интеллект! Картинка лучше. Пиксели крошечные, не разглядите.