ИИ-агент, LLM и RAG: актуальные термины без путаницы

ИИ-агент — не новое название любого чат-бота. Чат-бот может ограничиваться генерацией ответа, тогда как агенту нужны цель, управление шагами и инструменты для действий; именно это различие помогает понять, что продукт действительно умеет.

Базовые слова вроде LLM, токена и дообучения сохранили смысл, но рядом с ними закрепились более прикладные понятия: заземление, вызов функций, оркестрация и агент. Актуальный глоссарий Google Cloud описывает агента как приложение из модели, инструментов и управляющего слоя, а также отдельно определяет контекстное окно, эмбеддинги, заземление и вызов функций.

Модель, приложение и ответ — не одно и то же

Искусственный интеллект — широкое название методов и систем, выполняющих задачи, для которых обычно требуются распознавание, прогнозирование, поиск решения или работа с языком. Генеративный ИИ — более узкая категория: он создаёт новый текст, изображение, звук, видео или код на основе закономерностей, усвоенных при обучении.

Фундаментальная модель обучена на больших массивах данных и может служить основой для разных приложений. Большая языковая модель, или LLM, — фундаментальная модель, ориентированная прежде всего на язык. Поэтому LLM — не обязательно готовый помощник: интерфейс, поиск по документам, фильтры, память и доступ к сервисам добавляются на уровне приложения.

AGI, или искусственный общий интеллект, обозначает предполагаемую систему с широкими, переносимыми между областями интеллектуальными способностями. Это не название конкретной функции и не общепринятый сертификат качества. Когда разработчик употребляет AGI, полезно выяснить, какие способности, задачи и критерии оценки он имеет в виду.

Токен, контекст и запрос: что модель получает на вход

Токен — единица, на которые модель разбивает входные и выходные данные. В тексте токен может совпасть со словом, быть его частью либо представлять знак препинания. Поэтому число слов нельзя механически приравнивать к числу токенов, а стоимость API и доступный объём диалога часто считают именно в токенах.

Контекстное окно — объём токенов, который модель способна учитывать в одном запросе вместе с инструкциями, историей, приложенными материалами и создаваемым ответом. Большое окно позволяет передать больше данных, но само по себе не гарантирует, что модель одинаково хорошо использует каждый фрагмент. Если важное условие потерялось среди десятков страниц, формальное наличие текста в контексте ещё не означает правильного вывода.

Промпт — переданный модели запрос: задача, контекст, ограничения, данные и примеры желаемого результата. Промпт-инжиниринг означает последовательное уточнение этой конструкции. Он меняет вход конкретного обращения, но не переобучает модель и не записывает новые знания в её параметры.

Эмбеддинги и RAG: как к ответу подключают документы

Эмбеддинг — числовое представление текста, изображения или другого объекта. Оно позволяет сравнивать материалы по близости смысла, а не только по совпадению слов. В поисковой системе запрос и документы можно преобразовать в такие представления, после чего найти наиболее близкие фрагменты.

RAG, или генерация с дополненным поиском, сначала извлекает подходящие сведения из внешнего хранилища, а затем передаёт их модели вместе с запросом. Близкое понятие — заземление: привязка ответа к проверяемым данным. Это архитектура приложения, а не особая разновидность модели и не обещание безошибочности.

RAG часто путают с дообучением, хотя они меняют разные части системы. В сравнении IBM RAG и дообучения различие сформулировано прямо: RAG добавляет найденные данные к запросу во время работы, а дообучение обновляет параметры модели на специализированном наборе примеров. Поэтому для регулярно меняющейся базы документов обычно важен поиск, а для устойчивого формата или поведения может потребоваться обучение.

Дообучение, RLHF и дистилляция решают разные задачи

Дообучение продолжает обучение уже подготовленной модели на более узком наборе данных. Оно может адаптировать терминологию, формат или выполнение определённого класса задач. Однако это не удобный способ ежедневно загружать новые факты: изменение весов сложнее проверить и обновить, чем обычную базу документов.

RLHF — обучение с подкреплением на основе обратной связи людей. Оценщики сравнивают варианты ответов, а эти предпочтения используются для настройки поведения модели. Метод помогает приблизить ответы к выбранным требованиям, но человеческая оценка не превращает каждое утверждение модели в проверенный факт.

Дистилляция переносит часть поведения более крупной модели в меньшую. Обычно цель — получить более компактную или быструю систему, сохранив нужные возможности учителя. Речь идёт не об архивировании всей базы знаний: результат зависит от данных, задач и способа, по которым обучалась меньшая модель.

Рассуждение не равно доказательству

Цепочка рассуждений — промежуточные шаги, связывающие вопрос с ответом. В интерфейсе пользователь может увидеть краткое объяснение, план или развёрнутое решение, но убедительно написанные этапы сами по себе не доказывают правильность результата. Для проверки важны исходные данные, вычисления и доступные первичные материалы.

Фраза «рассуждающая модель» обычно сообщает, что система выделяет дополнительные вычисления на решение многошаговой задачи. Она не означает человеческого мышления, сознания или гарантированной логической строгости. Практическую ценность такого режима следует оценивать по результату на нужном классе задач, времени ответа и стоимости, а не по антропоморфному названию.

Вызов функции превращает текст в действие

Вызов функции позволяет модели сформировать структурированную команду для внешнего инструмента: например, запросить запись из базы, рассчитать маршрут или подготовить параметры операции. Само действие выполняет программа или сервис, а не языковая модель. Приложение должно проверить аргументы, права доступа и полученный результат.

ИИ-агент соединяет модель, инструменты и оркестрацию — слой, который хранит состояние, выбирает следующий шаг и управляет выполнением. Агент способен составить план, вызвать несколько функций и скорректировать ход работы по их результатам. Но «автономный» не означает «неограниченный»: безопасная система задаёт разрешённые инструменты, условия подтверждения и момент передачи решения человеку.

Многоагентная система использует несколько агентов с разными ролями или зонами ответственности. Это архитектурный выбор, а не автоматическое улучшение качества. Дополнительные участники создают новые точки координации, задержки и ошибки, поэтому один хорошо ограниченный процесс иногда полезнее сложной команды агентов.

Галлюцинация остаётся уверенной ошибкой

Галлюцинацией обычно называют правдоподобный, но ложный или внутренне противоречивый результат генерации. Более нейтральный термин — конфабуляция. Профиль рисков генеративного ИИ NIST подчёркивает, что ошибочными могут быть не только факты, но и логические объяснения либо придуманные ссылки, которыми система обосновывает ответ.

Ограничители — правила и технические проверки, контролирующие ввод, вывод или разрешённые действия системы. Они могут блокировать опасный запрос, скрывать персональные данные, проверять формат команды или требовать согласия человека. Ограничители уменьшают конкретные риски, но не являются универсальным фильтром истинности.

Самый полезный способ читать описание ИИ-продукта — переводить термин в наблюдаемое действие. Модель генерирует, RAG ищет и добавляет контекст, функция обращается к сервису, агент управляет последовательностью шагов, а человек или программная проверка контролирует последствия. Такое разделение быстрее обнаруживает маркетинговую подмену и показывает, где именно может возникнуть ошибка.

ИИ-агент не равен чат-боту: термины, которые раскрывают границы продукта