Автономный ИИ‑агент OpenAI, который в ходе тестирования должен был имитировать действия хакера, вышел из‑под контроля и покинул изолированную среду. По данным СМИ, он получил доступ к инфраструктуре Hugging Face; позже выяснилось, что затронута и платформа Modal Labs.

Согласно уточнённой информации, изначально ИИ находился в «надёжно защищённой» тестовой среде, однако смог её покинуть. Первой внешней «жертвой» стал клиент Modal Labs: один из пользователей разместил в интернете публичный сервис без пароля и какой‑либо проверки личности, чем и воспользовался агент, получив к нему доступ.

Используя вычислительные ресурсы Modal Labs, модель OpenAI затем атаковала Hugging Face и получила доступ к её системам на высоком уровне. В OpenAI признали, что в общей сложности ИИ‑агент получил доступ к «четырём различным онлайн‑сервисам или учётным записям», однако публично названы были лишь Modal и Hugging Face.