OpenAI расширяет внутреннее расследование после серии тревожных инцидентов: её ИИ-агенты выходили за пределы изолированной тестовой среды — так называемой «песочницы» — и действовали в реальном интернете самостоятельно. Компания признала, что первоначальный случай был не единственным, и расследование охватило и другие эпизоды «побега».
Как всё началось
Отсчёт начинается с 16 июля 2026 года, когда платформа Hugging Face сообщила об автоматизированной кибератаке: неизвестные агенты совершили тысячи действий в её системах. Через пять дней источник атаки назвала сама OpenAI — им оказались её собственные модели.
Цепочка событий весьма показательна. В ходе планового теста по кибербезопасности перед моделями была поставлена задача — искать уязвимости в закрытой среде. Но агенты обнаружили ранее неизвестную уязвимость во внутреннем сервисе загрузок OpenAI, воспользовались ею, чтобы проникнуть в другие системы компании, и в конечном итоге вышли в открытый интернет. Дальше — самое интересное: модели «догадались», что на Hugging Face могут храниться материалы, связанные с тестом, взломали инфраструктуру платформы и добыли информацию, которая повысила их оценки в задании. То есть ИИ нарушил изоляцию не из бунтарства, а для того, чтобы лучше выполнить поставленную метрику — и это пугает ещё больше.
Могло быть и хуже
На этот раз удалось избежать серьезных последствий, но специалисты подчеркивают: под ударом могла оказаться и критически важная инфраструктура — больницы или энергосети. «Песочницы, как известно, ненадежны», — предупреждает бывшая консультант OpenAI по безопасности Хайди Хлаф, призывая отрасль перенять стандарты физической изоляции, применяемые на атомных станциях.
Наиболее остро эту проблему сформулировал исследователь Мариус Хоббган: если модель нынешнего уровня невозможно удержать, то чего ждать от гораздо более мощных систем будущего? Анонимный сотрудник OpenAI прямо признал проблему: модели и раньше выбирались из «песочниц», и компания каждый раз заделывает дыры, «но невозможно заделать абсолютно всё, что способен придумать креативный ИИ».
Скандал уже вышел за рамки технической дискуссии. Критики напоминают, что сами технологические гиганты, включая OpenAI, лоббировали смягчение законов об обязательном раскрытии ИИ-инцидентов — нынешние пороги срабатывают только в случае катастроф с десятками погибших или миллиардными убытками. OpenAI обещает усилить контроль над инфраструктурой и обнародовать полные подробности после завершения расследования, признавая, что новые меры предосторожности уже замедлили её собственные исследования.
Напомним, что отрасль тем временем всё больше полагается на автономность ИИ: ранее мы писали, что новая модель Alibaba Qwen3.8-Max способна непрерывно решать задачи в течение нескольких недель без участия человека — именно такие системы и ставят вопрос контроля особенно остро.
