Введение в агенты (Часть 10)

Agent Ops: структурированный подход к непредсказуемому

При создании первых агентов вы будете вручную тестировать их поведение снова и снова. Когда вы добавляете функцию, работает ли она? Когда вы исправляете ошибку, не вызывает ли это другую проблему? Тестирование — это нормальный процесс при разработке программного обеспечения, но в случае с генеративным ИИ он работает по-другому.

Переход от традиционного детерминированного программного обеспечения к стохастическим агентным системам требует новой философии эксплуатации. Традиционные модульные тесты программного обеспечения могли просто оценивать output == expected (выход == ожидаемый), но это не работает, когда ответ агента по своему дизайну является вероятностным. Кроме того, поскольку язык сложен, для оценки «качества» обычно требуется LM — чтобы ответ агента делал все, что должен, ничего лишнего и с правильным тоном.

Agent Ops — это дисциплинированный, структурированный подход к управлению этой новой реальностью. Это естественная эволюция DevOps и MLOps, адаптированная к уникальным задачам создания, развертывания и управления агентами ИИ, превращающая непредсказуемость из недостатка в управляемую, измеримую и надежную функцию. Для более полного и глубокого изучения см. технический документ, посвященный качеству агентов, в этой серии.

Измеряйте то, что важно: инструментируйте успех как A/B-эксперимент

Прежде чем улучшать своего агента, вы должны определить, что означает «лучше» в контексте вашего бизнеса. Сформулируйте свою стратегию наблюдаемости как A/B-тест и задайте себе вопрос: какие ключевые показатели эффективности (KPI) доказывают, что агент приносит пользу? Эти показатели должны выходить за рамки технической корректности и измерять реальное влияние: коэффициент достижения целей, оценки удовлетворенности пользователей, задержки выполнения задач, операционные затраты на одно взаимодействие и, что наиболее важно, влияние на бизнес-цели, такие как выручка, конверсия или удержание клиентов. Этот обзор сверху вниз будет служить ориентиром для остальной части тестирования, направит вас на путь разработки, основанной на метриках, и позволит рассчитать рентабельность инвестиций.

Качество вместо «прошел/не прошел»: использование LM Judge

Бизнес-метрики не показывают, правильно ли ведет себя агент. Поскольку простое прохождение/непрохождение невозможно, мы переходим к оценке качества с помощью «LM в качестве судьи». Это предполагает использование мощной модели для оценки результатов работы агента по заранее определенной шкале: дал ли он правильный ответ? Был ли ответ основан на фактах? Следовал ли он инструкциям? Эта автоматизированная оценка, выполняемая на основе золотого набора данных подсказок, обеспечивает последовательную оценку качества.

Проверь свои знания в наших бесплатных тестах по ИИ! Пройди тест и узнай, насколько хорошо ты разбираешься в технологиях искусственного интеллекта!

Создание наборов данных для оценки, которые включают идеальные (или «золотые») вопросы и правильные ответы, может быть утомительным процессом. Для их создания необходимо отобрать сценарии из существующих производственных или разработческих взаимодействий с агентом. Набор данных должен охватывать весь спектр вариантов использования, с которыми, как вы ожидаете, будут сталкиваться ваши пользователи, а также несколько неожиданных. Хотя инвестиции в оценку быстро окупаются, результаты оценки всегда должны проверяться экспертом в данной области, прежде чем их можно будет считать достоверными. Все чаще курирование и ведение этих оценок становится ключевой обязанностью менеджеров по продукту при поддержке экспертов в данной области.

Разработка на основе метрик: ваше решение о внедрении

После автоматизации десятков сценариев оценки и установления надежных показателей качества вы можете с уверенностью тестировать изменения в вашем агенте разработки. Процесс прост: запустите новую версию на всем наборе данных оценки и напрямую сравните ее показатели с существующей производственной версией. Эта надежная система исключает догадки, обеспечивая вам уверенность в каждом развертывании. Хотя автоматизированные оценки имеют решающее значение, не забывайте о других важных факторах, таких как задержка, стоимость и коэффициент успешности задач. Для максимальной безопасности используйте A/B-развертывания, чтобы постепенно внедрять новые версии и сравнивать эти реальные производственные показатели с результатами моделирования.

Отладка с помощью трассировок OpenTelemetry: ответ на вопрос «почему?».

Когда ваши показатели падают или пользователь сообщает об ошибке, вам нужно понять «почему». Трассировка OpenTelemetry — это высокоточная пошаговая запись всего пути выполнения агента (траектории), позволяющая отлаживать шаги агента. С помощью трассировок вы можете увидеть точный запрос, отправленный модели, внутреннее обоснование модели (если доступно), конкретный инструмент, который он выбрал для вызова, точные параметры, которые он сгенерировал для этого инструмента, и исходные данные, которые были возвращены в качестве наблюдения. Трассировки могут показаться сложными при первом взгляде, но они предоставляют детали, необходимые для диагностики и устранения первопричины любой проблемы. Незначительные детали трассировки могут быть преобразованы в метрики, но просмотр трассировок в первую очередь предназначен для отладки, а не обзоры производительности. Данные трассировки могут быть легко собраны на таких платформах, как Google Cloud Trace, которые визуализируют и осуществляют поиск по огромному количеству трассировок, упрощая анализ первопричин.

Цените отзывы людей: руководство по автоматизации

Отзывы людей — это не раздражающий фактор, с которым нужно бороться, а самый ценный и богатый данными ресурс, который у вас есть для улучшения вашего агента. Когда пользователь подает отчет об ошибке или нажимает кнопку «не нравится», он дарит вам подарок: новый реальный крайний случай, который был упущен вашими автоматизированными сценариями оценки. Сбор и агрегирование этих данных имеют решающее значение; когда вы видите статистически значимое количество похожих отчетов или падений показателей, вы должны связать эти события с вашей аналитической платформой, чтобы сгенерировать аналитические данные и запустить alefis для операционных проблем. Эффективный процесс Agent Ops «замыкает цикл», собирая эту обратную связь, воспроизводя проблему и преобразуя этот конкретный сценарий в новый постоянный тестовый случай в вашем наборе данных оценки. Это гарантирует, что вы не только исправите ошибку, но и защитите систему от повторного возникновения всего класса ошибок.