Агентический ИИ, который выживает на предприятии. Часть 4: Победа скучной инженерии

Первые три части касались тезисов, стоимости и безопасности. Здесь рассматривается все, что отличает демо-версию от производственной системы. Ничего из этого не волнует. Именно поэтому некоторые команды спят по ночам. Контрольный список производства Проследите все. Langfuse, LangSmith или OpenTelemetry; выберите один и придерживайтесь его. Когда (а не если) рабочий процесс плохо работает в производстве, следы — это разница между отладкой и просмотром черного ящика. Тестируйте так, как будто это программное обеспечение, потому что это так. Модульные тесты, интеграционные тесты, CI. Примите также суровую истину: вы никогда не сможете полностью охватить поведение модели. Вот почему критические пути имеют циклы проверки, а все остальное — циклы обратной связи с пользователем. LLM — это не калькуляторы. Заставьте их использовать инструменты для арифметики со строгими схемами JSON на входах и выходах. Проверка на каждой границе. Дизайн, рассчитанный на провал повсюду: Сетевые запросы не выполняются, поэтому повторите попытку с отсрочкой. Серверы выходят из строя, поэтому повторите Агенты зацикливаются, поэтому установите ограничения на количество шагов в ремнях безопасности. Люди и LLM разрушают базы данных, поэтому сохраняйте неизменяемые резервные копии за пределами офиса. Сделайте рабочие процессы возобновляемыми. Надежные механизмы выполнения и контрольные точки означают, что прерванный 40-шаговый запуск возобновляется на шаге 31, а не перезапускается. Эв