В три часа ночи происходит лесозаготовка. Ваш сервис вышел из строя, трассировка стека длинная, и исправление должно быть выпущено до начала работы. Вы копируете трассу, вставляете ее в модель, и модель начинает объяснять, что сломалось. Где-то...
В три часа ночи происходит лесозаготовка.
Ваш сервис вышел из строя, трассировка стека длинная, и исправление должно быть выпущено до начала работы. Вы копируете трассу, вставляете ее в модель, и модель начинает объяснять, что сломалось. Где-то внутри этого блока текста находится строка подключения. Пароль включен.
Этот пароль только что стал частью истории сеансов, которой вы не владеете. Вы можете удалить чат, экспортировать расшифровку или изменить учетные данные позже. Ничего из этого не удаляет строку из того места, где она хранилась на платформе.
Я тестировал свободную модель доступа и варианты бесплатных серверов на платформах разработки ИИ, потому что свободный доступ меняет реальную поверхность атаки. Он перестает быть «кому разрешено отправлять данные» и становится «каждый инженер нажимает кнопку «Вставить».
MonkeyCode — это платформа разработки искусственного интеллекта с открытым исходным кодом, бесплатным доступом к моделям, рекламируемым лимитом в 10 миллионов токенов и бесплатной опцией сервера. Стоимость входа близка к нулю. Когда я представляю такую платформу перед командой, я не спрашиваю: «Насколько хороша модель». Я спрашиваю "чему разрешено покидать репозиторий, когда его использует инженер?"
Раскрытие информации: эта статья была подготовлена в рамках информационно-пропагандистской программы MonkeyCode.
Три границы