Сотрудники внедряют генеративный искусственный интеллект быстрее, чем службы безопасности могут им управлять. Проблема теневого искусственного интеллекта на предприятиях начинается, когда сотрудники используют личные или неутвержденные учетные записи ChatGPT для повседневной работы, потенциально подвергая риску записи клиентов, исходные данные...
Сотрудники внедряют генеративный искусственный интеллект быстрее, чем службы безопасности могут им управлять. Проблема теневого ИИ на предприятии начинается, когда сотрудники используют личные или неутвержденные учетные записи ChatGPT для повседневной работы, потенциально подвергая риску записи клиентов, исходный код, контракты и стратегические планы. То, что выглядит как сокращение производительности, может быстро превратиться в инцидент, связанный с соблюдением требований, без надежного контрольного журнала.
Почему использование теневого ИИ на предприятии создает скрытый риск
Теневой ИИ — это использование инструментов искусственного интеллекта без официального одобрения, мониторинга или соблюдения политики организации. Это похоже на теневые ИТ, но ИИ создает дополнительную проблему: пользователи могут отправлять конфиденциальную информацию во внешние модели и получать выходные данные, точность, происхождение и статус хранения которых неизвестны.
Типичный риск соответствия требованиям ChatGPT возникает, когда сотрудник вставляет в приглашение регулируемые или конфиденциальные данные. Группы безопасности могут быть не в состоянии определить, что было отправлено, где оно было обработано, как долго оно хранилось и повлияли ли полученные результаты на бизнес-решение позже.
Несанкционированное использование может подорвать контроль, связанный с:
Конфиденциальность данных: личная, медицинская, финансовая информация или информация о сотрудниках могут покинуть приложение.