Agentic AI

Материал из MachineLearning.

Версия от 14:27, 9 июля 2026; Vladimir Beliaev (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Содержание

Agentic AI (от Шаблон:Lang-en — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление искусственного интеллекта, в котором система на основе большой языковой модели (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой.

Ключевое отличие от генеративного ИИ удобно сформулировать так: генеративная модель отвечает на вопрос «что сказать?», а агентная — на вопрос «что сделать дальше?». Первая выдаёт текст за один проход; вторая замыкает цикл обратной связи со средой и работает столько шагов, сколько потребуется.

Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея интеллектуального агента из классического ИИ: сущность, которая воспринимает среду и действует в ней для достижения цели[1]. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения.

Агентность как спектр, а не как ярлык

Распространённая ошибка — делить системы на «агентов» и «не-агентов». Полезнее говорить о степени агентности: насколько система сама определяет, какие шаги предпринять, в каком порядке и когда остановиться.

Инженеры Anthropic предложили практичное разграничение, которое стоит держать в голове[1]:

  • Рабочие процессы (workflows) — LLM и инструменты соединены по заранее прописанному сценарию. Разработчик заранее знает граф вызовов. Пример: «извлеки сущности → переведи → положи в базу».
  • Агенты (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен.

Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную.

Анатомия агента

Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино.

Планирование 
Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — цепочка рассуждений (chain-of-thought)[1], её ветвящееся обобщение дерево мыслей (tree of thoughts)[1] и голосование по нескольким траекториям (self-consistency).
Использование инструментов 
Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (Toolformer[1], ToolLLM[1]). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать.
Память 
Кратковременная (содержимое контекстного окна) и долговременная (внешнее хранилище с векторным поиском, откуда релевантные фрагменты подтягиваются через поиск-дополненную генерацию, RAG).
Рефлексия 
Механизм самокритики. В подходе Reflexion агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода обучение с подкреплением без обновления весов[1].

Цикл ReAct: как это выглядит внутри

Идейное ядро большинства агентов — цикл ReAct (Reason + Act), предложенный Яо и соавторами в 2022 году[1]. Он чередует три вида шагов: 

Мысль:      Чтобы узнать возраст режиссёра, сначала найду фильм.
Действие:   Поиск["режиссёр фильма Сталкер"]
Наблюдение: Андрей Тарковский, род. 4 апреля 1932 г.
Мысль:      Теперь вычислю, сколько ему было в 1979 году.
Действие:   Калькулятор[1979 − 1932]
Наблюдение: 47
Мысль:      Ответ получен.
Ответ:      47 лет.

Внешне тривиально, но именно перемежение рассуждения и действия оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в галлюцинацию. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют обвязкой (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель.

Мультиагентные системы

Отдельная ветвь — не один агент, а коллектив специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение[1], и к Voyager — агенту, который автономно осваивал Minecraft, накапливая библиотеку навыков[1].

На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента.

Как измеряют качество

Оценка агентов — отдельная и на удивление трудная проблема: обычные метрики для текста здесь бесполезны, потому что важен результат действий, а не гладкость ответа. Сложился набор бенчмарков, ставший де-факто стандартом:

Бенчмарк Что проверяет
GAIA[1] Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ
SWE-bench[1] Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты
WebArena[1] Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS)
AgentBench[1] Восемь разнородных сред — от ОС и SQL до текстовых игр
τ-bench[1] Диалог агента с пользователем и инструментами при соблюдении бизнес-правил

Прогресс за 2023–2025 годы разителен: доля решённых задач SWE-bench Verified выросла с единиц процентов до порядка 70 % у ведущих моделей. Но именно бенчмарки вскрыли главную болезнь агентов, о которой стоит сказать подробно.

Проблема компаундинга: почему 95 % — это мало

Пусть агент выполняет каждый отдельный шаг верно с вероятностью p. Тогда задача из n независимых шагов будет решена целиком с вероятностью примерно pn. Подставим правдоподобные числа: при p = 0{,}95 и n = 20 шагов получаем 0{,}9520 ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает две трети длинных задач.

Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк τ-bench специально ввёл метрику pass^k (вероятность решить задачу успешно k раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность.

Приложения

Наиболее зрелая на 2025 год область — агенты-программисты: автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. ИИ в научных исследованиях), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче[1].

Ограничения и открытые проблемы

  • Надёжность. Компаундинг ошибок (см. выше) не решается наращиванием размера модели — нужны верификация промежуточных шагов, откаты и человек в контуре.
  • Безопасность. Агент, читающий внешние данные и имеющий доступ к инструментам, уязвим к инъекции промпта: вредоносная инструкция, спрятанная на веб-странице или в письме, может перехватить управление. Это качественно новый класс угроз по сравнению с обычными LLM[1].
  • Стоимость и латентность. Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится.
  • Оценка. Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом.
  • Автономия и согласование. Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы согласования целей агента с намерениями человека и контроля над необратимыми действиями[1].

История (кратко)

  • 2022 — ReAct формализует чередование рассуждения и действия[1]; выходят работы по chain-of-thought[1].
  • 2023 — взрывной интерес после AutoGPT и BabyAGI, популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain.
  • 2024 — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол Model Context Protocol для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы[1].
  • 2025 — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся обзоры[1][1].

См. также

Примечания


Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=Agentic_AI»
Личные инструменты