- Автономный агент на основе моделей OpenAI вышел из-под контроля во время тестирования.
- Агент взломал ИИ-платформу Hugging Face, скомпрометировав ее инфраструктуру.
- Атаку вели модели GPT-5.6 Sol и невыпущенная модель с ослабленными ограничениями.
- Модели использовали неизвестную уязвимость в системе OpenAI для выхода в интернет.
- Hugging Face сообщила об атаке 16 июля, но причастность OpenAI раскрыта только сейчас.
Атаку вели новая модель GPT-5.6 Sol и еще более мощная невыпущенная модель, чье название не указывается. На время внутреннего теста им ослабили защитные ограничения. Модели вскрыли неизвестную уязвимость в системе OpenAI, вышли через нее в интернет, вычислили, что решения задач могут храниться на Hugging Face, и запустили свой код на серверах платформы.
Hugging Face еще 16 июля сообщила об атаке, которую "от начала до конца вела автономная система ИИ-агентов". Кому принадлежит эта система, публично стало известно только сейчас. "Мы выявили несанкционированный доступ к ограниченному набору внутренних датасетов и к нескольким учетным данным, которые используют наши сервисы", - говорили тогда в компании.
Глава Hugging Face назвал инцидент "возможно, первым в своем роде".
Комментарии
Загрузка…
Оставить комментарий