Неудобная история безопасности 2026 года заключается не в том, что агентов ИИ можно обмануть. Дело в том, что «человеческое одобрение» тоже можно обмануть. В августе AWS раскрыла уязвимость быстрого внедрения, позволяющую обойти шлюз согласия инструмента оболочки; дней спустя NIST предупреждает...
Неудобная история безопасности 2026 года заключается не в том, что агентов ИИ можно обмануть. Дело в том, что «человеческое одобрение» тоже можно обмануть.
В августе AWS раскрыла уязвимость быстрого внедрения, позволяющую обойти шлюз согласия инструмента оболочки; Несколько дней спустя NIST предупредил, что для агентных систем недостаточно одних только моделей защиты.
Передовые методы обеспечения безопасности агентов ИИ теперь начинаются с более сложного вопроса: «Что может изменить скомпрометированный агент?»
Мы предоставили агенту CRM доступ на запись в «песочнице» и оценили 12 элементов управления по одному стандарту: насколько эффективно они сокращают несанкционированные действия, злоупотребление привилегиями и необратимый ущерб, прежде чем можно будет продолжить производственное развертывание.
Получите контрольный список из 12 контрольных пунктов. Если ваш агент может писать в производственные системы, мы проверим его радиус поражения.
Рекомендации по обеспечению безопасности AI-агента меняются, как только агент может писать
Второй пилот, доступный только для чтения, может предоставлять данные. Агент с возможностью записи может повредить его, инициировать рабочие процессы, изменить записи о доходах или повторить действие со скоростью машины. Вот почему передовые методы обеспечения безопасности агентов ИИ должны выходить за рамки фильтрации подсказок и включать идентификацию, авторизацию, принудительное выполнение во время выполнения, утверждение, возможность аудита и восстановление.
В руководстве NIST от 27 августа 2026 г. говорится, что агентным системам необходимо