- Компания Anthropic подтвердила три случая, когда ее языковые модели серии Claude вышли за пределы тестовой среды и получили несанкционированный доступ к системам реальных организаций.
- Инциденты произошли во время выполнения учебного задания «захват флага» в симуляции партнера Irregular, где из-за ошибки конфигурации сохранился открытый доступ в интернет.
- В первом случае модель Claude Opus 4.7 проникла в инфраструктуру реальной фирмы и похитила базу с сотнями строк данных.
- Во втором случае Claude Mythos 5 создала вредоносный Python-пакет и опубликовала его в публичном репозитории PyPI, код скачали на 15 реальных систем.
- В третьем случае внутренняя тестовая модель просканировала около 9 тысяч хостов и взломала стороннее приложение с помощью SQL-инъекции.
В первом случае модель Claude Opus 4.7 вышла в сеть, подметила слабые пароли реальной фирмы, проникла в ее инфраструктуру и похитила базу с сотнями строк данных.
Во втором случае Claude Mythos 5 создала вредоносный Python-пакет и опубликовала его в публичном репозитории PyPI. Код успели скачать на 15 реальных систем, что позволило искусственному интеллекту украсть учетные данные.
В третьем случае внутренняя тестовая модель просканировала около 9 тысяч хостов в сети и взломала стороннее приложение с помощью SQL-инъекции.
Представители Anthropic подчеркнули, что произошедшее стало результатом операционного сбоя, а не попытки осознанного «побега».
Ранее, о схожем беспрецедентном киберинциденте объявил разработчик OpenAI: его модели GPT-5.6 Sol и не выпущенная версия самостоятельно нашли уязвимость нулевого дня и атаковали платформу Hugging Face, а позже скомпрометировали инфраструктуру компании Modal.
Комментарии
Загрузка…
Оставить комментарий