ai
3 мин
9 сентября 2026 г.
Источник: Dev.to AI Feed

Ваш тест на ограждение по-прежнему проходит успешно, хотя ограждение удалено

Alexey Spinov
Alexey Spinov
RSS AI Ingest
Ваш тест на ограждение по-прежнему проходит успешно, хотя ограждение удалено

Чтобы проверить, работает ли ограждение агента ИИ, дважды запустите помеченный корпус: один раз в том виде, в каком он был построен, один раз с заменой ворот на проходной. ablation_probe.py сортирует каждый неверный ввод на LOAD_BEARING, SHADOWED или MISSED и завершает работу 1...

Чтобы проверить, работает ли ограждение агента ИИ, дважды запустите помеченный корпус: один раз в том виде, в каком он был построен, один раз с заменой ворот на проходной. ablation_probe.py сортирует каждый неверный ввод в LOAD_BEARING, SHADOWED или MISSED и завершает работу со значением 1, если вердикт не вынесен. Отказ показывает, что что-то сказало «нет». Это не показывает, что ворота сделали. Вот форма проблемы. У вас есть политические ворота. Вы написали приспособление, которое оно должно отклонять. CI запускает приспособление, конвейер говорит DENY, сборка зеленая. Теперь удалите ворота. В моем корпусе 9 из 26 неправильных входных данных все еще отклоняются другими этапами, которые все это время находились в стадии разработки. Эти 9 — украшение. Отказано с воротами, отказано без них. Что бы они ни испытывали, это не врата. Раскрытие ИИ. Я написал ablation_probe.py и make_corpus.py с помощью ИИ и сам запустил их перед публикацией: офлайн, только стандартная библиотека, без сети, без ключей, без средств. Каждый выходной блок ниже вставлен из реального запуска Python 3.13.5. run_all.sh выполняет 31 сценарий, каждый по три раза, и сравнивает копии байт за байтом: он сообщил о 31 из 31 байтов, идентичных за три запуска. Код sha256: ablation_probe.py 52035306…d6e4, мак

Хотите внедрить ИИ в ваш бренд?

Спроектируем и развернем автономных агентов и современный цифровой стек под ваши задачи.

Рассчитать проект