Что такое ИИ и чем он отличается от обычных программ

Две философии вычислений: правила против обучения

Обычная компьютерная программа — это точный набор инструкций, который программист пишет заранее. Каждое возможное действие, каждая ветка принятия решений продумана и закодирована явно. Калькулятор получает на вход «7 × 8» и всегда возвращает «56» — потому что внутри него жёстко зашит алгоритм умножения. Навигатор строит маршрут, применяя алгоритм Дейкстры к карте дорог, где каждое правило движения формализовано: скорость, повороты, пробки. Такой подход идеален, когда задача может быть описана исчерпывающим набором чётких правил. Но как только задача выходит за пределы формальной логики — например, отличить фотографию собаки от фотографии волка в сумерках, — написать правила вручную становится практически невозможно.

Как учится искусственный интеллект: обучение на примерах

Искусственный интеллект — это система, которая не программируется вручную правилами, а извлекает закономерности из данных. Вместо того чтобы писать инструкцию «если у животного длинные уши и короткий хвост, то это кошка», разработчик собирает датасет из миллионов размеченных изображений — кошек, собак, тигров, лис — и пропускает их через нейронную сеть в процессе обучения. Сеть постепенно настраивает миллионы внутренних параметров, минимизируя ошибку классификации. После обучения она способна правильно определить животное на фотографии, которую никогда раньше не видела, — но программист не может указать на конкретную строку кода, отвечающую за распознавание кошачьих ушей. Знание распределено по всей сети в виде числовых весов, неинтерпретируемых для человека.

Спам-фильтр: наглядный пример различия двух подходов

Задача фильтрации спама отлично иллюстрирует разницу между классическим программированием и машинным обучением. Традиционный подход: программист составляет список запрещённых слов — «бесплатно», «заработок», «криптовалюта», «миллион» — и каждое письмо, содержащее эти маркеры, помечается как спам. Проблемы возникают немедленно: спамеры заменяют буквы символами (беcплатно), используют изображения вместо текста, меняют формулировки. Правила приходится постоянно дописывать, и спамеры всегда на шаг впереди.

Альтернативный подход на базе ИИ: системе показывают десятки миллионов реальных писем, каждое с меткой «спам» или «не спам». Алгоритм самостоятельно находит сотни и тысячи признаков — многие из которых человек никогда бы не придумал. Он замечает, что спам-письма часто отправляются в 3 часа ночи, содержат на 40% больше ссылок, чем обычные письма, и приходят с почтовых серверов с определёнными характеристиками. По данным Google, спам-фильтр Gmail, построенный на машинном обучении, ошибается менее чем в 0,1% случаев — и это без единого правила, написанного вручную.

Где нужны правила, а где — обучение

Обычные программы незаменимы в задачах с формальной, математически точной постановкой: банковские транзакции, расчёт зарплат, управление авиационными системами, криптография. Ошибка в банковском переводе, вызванная случайностью нейросети, неприемлема — здесь нужна абсолютная точность. Искусственный интеллект, напротив, эффективен там, где правила сформулировать невозможно: распознавание лиц в толпе, перевод с языка на язык, понимание голосовых команд в шумной комнате, прогнозирование спроса в интернет-магазине. Эти две парадигмы не противопоставлены — в реальных системах они работают вместе. Беспилотный автомобиль Tesla использует нейросети для распознавания дорожных знаков и пешеходов, но правила дорожного движения — «на красный стой» — закодированы в нём классическим, детерминированным способом.

Сильные и слабые стороны: надёжность против гибкости

Классическая программа предсказуема: при одинаковых входных данных она всегда выдаёт один и тот же результат. Если в работе программы обнаружена ошибка, разработчик может протрассировать выполнение шаг за шагом, найти ошибочную инструкцию и исправить её. Искусственный интеллект с этой точки зрения фундаментально непрозрачен. Нейронная сеть, принимающая решение о выдаче кредита, может отказать заявителю — и банк не сможет объяснить причину, потому что решение принято на основе миллионов автоматически найденных признаков, ни один из которых не имеет понятной человеку интерпретации.

Проблема «чёрного ящика» и этические последствия

Это свойство ИИ-систем называют проблемой «чёрного ящика»: на вход подаются данные, на выходе получается решение, но внутренняя логика недоступна для анализа. В 2018 году исследователи обнаружили, что система COMPAS, используемая в судах США для оценки вероятности повторного преступления, систематически завышала риск для афроамериканцев по сравнению с белыми обвиняемыми при одинаковых обстоятельствах. Система не была запрограммирована на расизм — она выявила статистические закономерности в исторических данных, которые сами по себе отражали существовавшие предубеждения. Этот случай наглядно демонстрирует ключевую дилемму ИИ: модели обучаются на данных, созданных людьми, и наследуют все человеческие ошибки и предрассудки, закодированные в этих данных. Осознание и активное противодействие этому эффекту — одна из важнейших задач современной компьютерной науки.