Компания OpenAI заявила, что во время испытаний новейшей модели искусственного интеллекта произошел беспрецедентный инцидент: автономный ИИ-агент сумел выйти за пределы изолированной тестовой среды и проникнуть во внутренние системы платформы Hugging Face - одного из крупнейших мировых хабов обмена ИИ-моделями.

Как сообщает Би-би-си, происшествие произошло в контролируемых условиях при проверке безопасности. Совместно с Hugging Face компания проводит расследование причин инцидента. В Hugging Face сообщили, что устранили выявленные уязвимости и продолжают выяснять, были ли затронуты данные пользователей и партнеров.

Эксперты отмечают, что произошедшее свидетельствует о росте возможностей автономных ИИ-систем в сфере кибератак. По их мнению, организациям необходимо значительно усилить меры киберзащиты, поскольку современные ИИ-инструменты способны действовать значительно быстрее традиционных систем безопасности.

В то же время ряд специалистов допускает, что публичное освещение инцидента может быть связано и с усиливающейся конкуренцией OpenAI на рынке искусственного интеллекта, однако подчеркивает, что случай вновь привлек внимание к вопросам безопасности при разработке передовых ИИ-моделей.