Искусственный интеллект. С неба на землю

Что такое искусственный интеллект?

Начнём с того, что единого определения не существует. Если спросить об этом ИИ, то каждая модель даст свой собственный ответ с разной глубиной погружения.

Мне же, как человеку, ближе самое простое и понятное определение — вокруг него сходятся и ответы самих ИИ-моделей. ИИ — это любой математический метод, который имитирует человеческий или другой природный интеллект.

То есть ИИ — это огромное количество решений, в том числе примитивные математические алгоритмы, экспертные системы на базе правил и современные решения на базе статистики.

Классические решения на базе правил и логик

Решения на базе анализа данных и статистики, оценки вероятностей

В этой книге мы будем говорить именно о направлении, которое работает со статистикой и поиском взаимосвязей.

И хотя это направление родилось где-то в 1950-х годах XX века, нас в первую очередь интересует то, что мы понимаем под ним сегодня, в 2020-х. Здесь есть три основных направления.

— Нейросети — математические модели, созданные по подобию нейронных связей мозга живых существ. Собственно, мозг человека — это суперсложная нейросеть. Ключевая особенность: наши нейроны не ограничиваются состояниями «включён/выключен», у них гораздо больше параметров. Оцифровать и применить их в полной мере пока не получается.

— Машинное обучение (ML) — статистические методы, которые позволяют компьютеру решать задачу всё лучше — по мере накопления опыта и дообучения. Это направление известно с 1980-х годов.

— Глубокое обучение (DL) — это не только обучение с учителем, когда человек показывает машине правильные ответы. Это ещё и самообучение систем — без участия человека. Это одновременное использование различных методик обучения и анализа данных. Направление развивается с 2010-х и считается наиболее перспективным для творческих задач и задач, где сам человек не понимает чётких взаимосвязей. Это и есть все современные популярные модели, о которых мы много слышим. Но здесь мы вообще не можем предсказать, к каким выводам придёт нейросеть: манипулировать можно лишь тем, какие данные мы «скармливаем» модели на входе.

Когда нужен ИИ, а когда — классическая автоматизация?

Если коротко, ИИ работает лучше всего, когда одновременно выполняются три условия: есть данные, в задаче много вариативности (исключений) и её можно автоматизировать.

Классическая автоматизация предпочтительна, когда:

— задача имеет ограниченную сложность и вариативность;

— критичны интерпретируемость, скорость отклика и надёжность;

— нет данных для машинного обучения.

ИИ-решения предпочтительны, когда:

— задача имеет высокую сложность или большое число вариаций и факторов, а правила невозможно явно сформулировать или они слишком сложны;

— доступны большие массивы данных, из которых можно выявить закономерности;

— требуется анализ неструктурированных данных (тексты, изображения, аудио), где традиционные алгоритмы малоэффективны;

— необходима быстрая адаптация к новым данным и поиск закономерностей;

— решение зависит от вероятностных оценок.

Ключевое различие: традиционные алгоритмы vs ИИ-модели

Как обучаются ИИ-модели?

Сейчас множество прикладных ИИ-моделей для бизнеса обучается с учителем: человек задаёт входную информацию, нейросеть возвращает ответ, после чего человек сообщает ей, верно она ответила или нет. И так раз за разом.

Процесс обучения нейросети

Подобным образом работают и так называемые «капчи» (CAPTCHA, Completely Automated Public Turing test to tell Computers and Humans Apart) — графические тесты на сайтах, определяющие, кто перед ними: человек или компьютер. Это когда вам показывают разделённую на части картинку и просят указать зоны с велосипедами или ввести затейливо отображённые цифры и буквы. Кроме основной задачи (тест Тьюринга), эти данные потом используются для обучения ИИ.

При этом существует и обучение без учителя, когда система ищет закономерности сама, без обратной связи от человека. Это самые сложные проекты, но они позволяют решать и самые сложные, творческие задачи. ChatGPT и аналогичные решения — продукт именно такого обучения, точнее его разновидности, которую называют самообучением (self-supervised): модель закрывает себе часть текста и учится угадывать спрятанное, то есть сама выставляет себе оценку. Ручная разметка здесь не нужна — но состав и качество данных решают всё.

Точнее, на практике это гибридный подход: сначала машина обучается сама на огромных массивах данных, а затем люди корректируют результат — оценивают ответы, размечают удачные и неудачные, «дообучая» модель обратной связью (в индустрии это называется RLHF — обучение с подкреплением на обратной связи от человека). Машина делает черновую работу, человек ставит оценки.

Общие недостатки текущих решений на основе ИИ

Фундаментально все решения на базе ИИ на текущем уровне развития имеют общие проблемы.

— Объём данных для обучения. Нейросетям нужны огромные массивы качественных и размеченных данных. Если человек учится отличать собак от кошек на паре примеров, то ИИ нужны тысячи.

— Зависимость от качества данных. Любые неточности в исходных данных сильно сказываются на результате. Нейросети просто собирают данные, не анализируя факты и их связанность.

— Этическая составляющая. Для ИИ нет этики — только математика и выполнение задачи. Отсюда сложные этические проблемы: например, кого сбить автопилоту в безвыходной ситуации — взрослого, ребёнка или пенсионера? Подобных споров бесчисленное множество. Для ИИ нет ни добра, ни зла, как нет и «здравого смысла».

— Качество и достоверность контента. Нейросети не могут оценить данные на реальность и логичность и склонны к генерации некачественного контента и ИИ-галлюцинаций. Ошибок много, и это порождает две проблемы.

Первая — деградация поисковиков. ИИ создал столько некачественного контента, что поисковые системы начали деградировать: его стало настолько много, что он доминирует. Особенно «помогают» SEO-оптимизаторы, набрасывающие популярные запросы для продвижения.

Вторая — деградация самих ИИ-моделей. Генеративные модели используют интернет для дообучения. Люди, применяя ИИ и не проверяя за ним, наполняют интернет некачественным контентом, а ИИ снова учится на нём. Получается замкнутый круг, ведущий ко всё бо́льшим проблемам.

Также по QR-коду и гиперссылке доступна статья на эту тему

The AI feedback loop: Researchers warn of «model collapse’ as AI trains on AI-generated content

Но есть важное «но». Круг замыкается не потому, что текст написала машина. А потому, что этот текст не с чем сверить. Ошибку никто не ловит — и она переходит дальше, в следующую модель.

Если правильный ответ известен заранее, всё меняется. Задачу можно придумать целиком: и условие, и ответ к нему. Тогда проверять машину не нужно человеку — сразу видно, верно она решила или нет. Такие данные модель не портят, а учат.

Пример. В июне 2026 года OpenAI выложила тест GeneBench-Pro: 129 исследовательских задач по вычислительной биологии. Каждую собрали искусственно, и для каждой заранее известен верный ответ. Год назад лучшая модель компании решала меньше 5% задач предыдущей версии теста. Сейчас — 31,5%.

Разница между ядом и лекарством здесь одна. Есть эталон, с которым можно сверить ответ, — данные полезны. Нет эталона — начинается тот самый замкнутый круг.

Осознавая проблему, Google DeepMind вместе с Jigsaw провела исследование: учёные разобрали около двухсот описанных в СМИ случаев использования ИИ не по назначению (январь 2023 — март 2024) и составили их классификацию. Главный вывод оказался неожиданным: в девяти случаях из десяти злоумышленники не «взламывали» ИИ, а пользовались им ровно по прямому назначению. Они генерировали изображения реальных людей, фальшивые доказательства и массовый контент от лица несуществующих личностей. Ломать ничего не пришлось.

С тех пор это перестало быть темой научных статей и стало строкой в бюджете потерь. По оценке Deloitte, ущерб от мошенничества с применением генеративного ИИ в США вырастет с 12,3 млрд долларов в 2023 году до 40 млрд к 2027-му. Подробнее о том, как это работает и что с этим делать, — в главе о безопасности.

— Качество «учителей».

Почти все нейросети обучают люди: формируют запросы и дают обратную связь. И здесь много ограничений — кто и чему учит, на каких данных, для чего?

— Готовность людей.

Стоит ожидать огромного сопротивления тех, чью работу заберут нейросети.

— Страх перед неизвестным.

Рано или поздно нейросети станут умнее нас. Люди боятся этого, а значит, будут тормозить развитие и накладывать ограничения.

— Непредсказуемость.

Иногда всё идёт как задумано, а иногда даже создатели изо всех сил пытаются понять, как работают алгоритмы. Отсутствие предсказуемости крайне затрудняет поиск и исправление ошибок. Мы только учимся понимать то, что сами создали.

— Ограничение по виду деятельности.

На момент подготовки третьей редакции (2026) весь массовый ИИ — слабый (мы разберём этот термин в следующей главе). Алгоритмы хороши для целенаправленных задач, но плохо обобщают знания: ИИ, обученный играть в шахматы, не сыграет в шашки. Глубокое обучение плохо справляется с данными, отклоняющимися от учебных примеров. Чтобы эффективно использовать тот же ChatGPT, нужно быть экспертом в отрасли и формулировать осознанный, чёткий запрос.

— Затраты на создание и эксплуатацию.

Создание нейросетей требует много денег, и лучше всего это видно на дистанции в несколько лет. Обучение GPT-3 в 2020 году, по разным оценкам, стоило от 1,4 до 4,6 млн долларов — сумма, вполне подъёмная для крупной компании. GPT-4 в 2023-м обошёлся уже примерно в 78 млн, Gemini Ultra — около 191 млн, а Llama 3.1 на 405 млрд параметров — порядка 170 млн (оценки Stanford AI Index и Epoch AI). Обучение моделей поколения 2026 года оценивают в 200—500 млн долларов за один запуск, а к концу 2027-го аналитики ждут выхода за миллиард.

Итого: за шесть лет стоимость обучения передовой модели выросла примерно в сто раз. Причём растёт она устойчиво — в 2,4—3 раза ежегодно с 2016 года. Это и есть та самая верхняя часть S-кривой в денежном выражении: каждый следующий процент качества стоит кратно дороже предыдущего.

Похожая история с эксплуатацией. Для обработки запросов GPT-3 требовалось более 30 тысяч графических процессоров NVIDIA A100, а на электроэнергию уходило около 50 тысяч долларов в день. Сегодня счёт идёт на сотни тысяч ускорителей нового поколения, а инференс одной только OpenAI оценивают в десятки миллионов долларов ежедневно.

Что из этого следует для вас. Ровно один вывод: обучать свою фронтир-модель (передовую модель уровня ChatGPT) — не ваша игра, и это не признание слабости, а трезвый расчёт. Ваша игра начинается там, где заканчивается их: в данных, процессах и сценариях, которые никто, кроме вас, не оцифрует. Модель вы арендуете или купите, а конкурентное преимущество — только построите сами.

Повторюсь: это общие недостатки для всех ИИ-решений. Дальше мы вернёмся к этой теме ещё несколько раз и разберём их на более прикладных примерах.

Пять страхов новичка — коротко и честно

1. «Мои данные украдут».

Риск управляем, и правило простое: не отправляйте в публичный сервис то, что нельзя показать постороннему (подробнее — Глава 8). При этом многие сервисы уже внедряют шифрование пользовательских данных (полностью или только персональные данные).

2. «ИИ меня заменит».

Рабочая модель — 70/30: рутину забирает ИИ, решения и ответственность остаются у человека. Заменяет не ИИ, а люди, которые научились им пользоваться.

3. «Это дорого».

Старт — бесплатно или за небольшую сумму. Дорогим бывает внедрение без цели, а не инструмент.