Агентический искусственный интеллект, который выживает на предприятии, часть 5: Люди в цикле, не выжигая людей

Часть 1 закончилась признанием: вы никогда не проверите свой путь к 100% правильности. Для критически важных рабочих процессов последней страховкой является человек. Но у «человека в курсе» есть грязная тайна. Плохо спроектированный, это театр. Проблема резиновых штампов Направляйте каждое действие агента на утверждение человеку и наблюдайте, что происходит. Первая неделя, тщательные обзоры. На третьей неделе наступает усталость от одобрения, и люди нажимают кнопку «Одобрить» со скоростью мысли. Вы заплатили человеческую зарплату, чтобы стать клавишей Enter, и цикл не обеспечивает фактического контроля. Цель не в том, чтобы люди все проверяли. Это люди рассматривают именно те вещи, которые требуют суждения, в том объеме, который они могут выдержать. Люди, занимающиеся надзором, действительно могут это сделать Фильтруйте перед маршрутизацией. Пороги достоверности определяют, кто и что видит: рутинные действия с высокой степенью достоверности выполняются непосредственно с протоколированием, действия с низкой степенью достоверности и средней достоверностью выбираются, а действительно неопределенные или высокоэффективные действия передаются человеку. Тщательный UX-дизайн здесь ограничивает человеческую нагрузку. Вот и вся игра. Показывайте различия, а не документы. Никто не перечитывает сгенерированный контракт. Покажите, что изменилось по сравнению с шаблоном, выделите, какие поля заполнила модель, и сделайте так, чтобы отклонения невозможно было пропустить. Р