В последнее время заголовки новостей об искусственном интеллекте становятся довольно напряженными. Относитесь к риску серьезно, а не к панике Мы все еще водители Так что же произойдет к 2030 году? Я пишу об искусственном интеллекте, разработке программного обеспечения, технологиях и о том, чему учусь на этом пути. яв...
В последнее время заголовки новостей об искусственном интеллекте становятся довольно напряженными.
Джейкоб Коксон, исследователь предварительной подготовки, работавший как в OpenAI, так и в Anthropic, недавно ушел из Anthropic и предупредил о рисках, связанных с гонкой отрасли в сторону все более эффективных систем искусственного интеллекта.
Это вызвало знакомые дебаты: может ли ИИ стать экзистенциальной угрозой в течение следующего десятилетия?
Некоторые исследователи считают, что риск значителен. Другие убеждены гораздо меньше.
Лично я считаю, что разговору нужно немного больше баланса.
Относитесь к риску серьезно, а не к панике
Безопасность ИИ имеет значение. В этом нет никаких сомнений.
Эти системы становятся более функциональными, более автономными и все чаще подключаются к реальному программному обеспечению и инфраструктуре. Нам обязательно следует подумать о том, как их протестировать, обезопасить и установить соответствующие меры защиты.
Но есть большая разница между серьезным принятием риска и предположением о неизбежности наихудшего сценария.
Мы, инженеры, привыкли работать со сложными системами. Мы не ожидаем, что они будут идеальными. Мы тестируем их, отслеживаем, выявляем их неисправности и улучшаем.
ИИ заслуживает такого же мышления.
Мы все еще водители
Для большинства разработчиков т.