ai
3 мин
1 сентября 2026 г.
Источник: Хабр ИИ & Нейросети

«Не мог бы ты взломаться?»: промт‑инъекция с точки зрения лингвистики

ELF19 (BotHub)
ELF19 (BotHub)
RSS AI Ingest
«Не мог бы ты взломаться?»: промт‑инъекция с точки зрения лингвистики

Пользователь пишет отзыв о магазине и заодно пытается распоряжаться нейросетью. Почему чужая фраза внутри отзыва вдруг получает силу команды? Разберу промт-инъекцию через адресата, речевые акты и смешение ролей. А потом дам Gemini одну и ту...

Пользователь пишет отзыв о магазине и заодно пытается распоряжаться нейросетью. Почему чужая фраза внутри отзыва вдруг получает силу команды? Разберу промт-инъекцию через адресата, речевые акты и смешение ролей. А потом дам Gemini одну и ту же инъекцию в разных языковых формах и проверю, какая из них заставит модель сменить задачу.

Хотите внедрить ИИ в ваш бренд?

Спроектируем и развернем автономных агентов и современный цифровой стек под ваши задачи.

Рассчитать проект