Реальный риск корпоративного ИИ заключается не в автономных агентах. Это сложность между ними.

Представлено Gravitee Сложность агента — это коварная тень, скрывающаяся сейчас внутри предприятий, и на которую нужно пролить свет. Это связано с тем, что предприятия не развертывают один агент и не наблюдают за его работой, а развертывают целые группы, каждый из которых вызывает API, вызывает другие агенты, обращаясь к приложениям, которые никогда не создавались с учетом машины, принимающей решения. Это режим отказа, который не позволит вам уснуть по ночам: ветреная, сложная система, которую никто не может видеть достаточно ясно, чтобы управлять ею. Но почему все так быстро становится непрозрачным? Добавьте в систему второго агента, и вы добавите одно соединение. Добавьте десятую часть, и вы не добавите десять соединений, вы потенциально добавили десятки, потому что теперь любой агент может позвонить любому другому, и каждый из этих вызовов может инициировать вызов куда-то еще. Сложность не возрастает с увеличением численности агентов. Оно зависит от количества путей между агентами, и никто не должен строить этот график. Заявка в службу поддержки, которая раньше касалась одной системы, теперь может пройти через четырех агентов, прежде чем человек увидит ее, и каждая из этих передач является моментом принятия решения, который никто не одобряет. Большинство корпоративных программ искусственного интеллекта останавливаются, когда гудит