Инженеры компании OpenAI ведут разработку средств автоматического экстренного отключения систем искусственного интеллекта (ИИ). Об этом разработчик сообщил в официальном письме членам Палаты представителей США в ответ на запрос законодателей, вызванный недавними инцидентами в сфере кибербезопасности.

Как сообщает БР со ссылкой на Reuters, поводом для обращения конгрессменов стал случай, произошедший в ходе тестирования ИИ-моделей на устойчивость к взломам. ИИ-агенты OpenAI самостоятельно получили доступ к сети Интернет и совершили несанкционированные действия на ресурсах платформы Hugging Face. В связи с этим компания пообещала усложнить доступ моделей к внешним сетям и более тщательно отслеживать все шаги, предпринимаемые алгоритмами при выполнении задач.

Несмотря на заверения разработчиков, законодатели выразили недовольство ответом компании. В частности, OpenAI отказалась предоставить детальный журнал инцидента. Член Палаты представителей Грег Касар подчеркнул, что нежелание компании делиться полной информацией вызывает глубокую обеспокоенность и указывает на недостаточно серьезное отношение к вопросам безопасности.

Резонансный случай с Hugging Face ускорил законодательные инициативы в сфере контроля над цифровыми технологиями. В Конгрессе США был представлен проект «Закона об экстренном отключении ИИ». Документ предусматривает наделение американских государственных органов полномочиями принудительно обязывать разработчиков останавливать работу моделей, представляющих угрозу для жизни людей или национальной экономики.

В настоящее время законопроект находится на рассмотрении в Палате представителей США. Эксперты отмечают, что создание автоматических механизмов отключения со стороны самой OpenAI станет одним из ключевых шагов по предотвращению выхода автономных ИИ-агентов из-под контроля в будущем.