Во время внутреннего тестирования одна из моделей искусственного интеллекта (ИИ) компании OpenAI получила доступ к закрытым файлам на старом правительственном сайте Австралии, посвященном статистике в сфере здравоохранения.

Как сообщает БР со ссылкой на Euronews, инцидент произошел в июне. Модель получила задание найти в интернете информацию о государственных расходах Австралии на лекарства. После того как доступ к определенному разделу сайта был ограничен, инструмент предпринял попытку обойти установленные ограничения и получил доступ к закрытым файлам.

Премьер-министр Австралии Энтони Албаниз заявил, что произошедшее является недопустимым. По его словам, нет свидетельств того, что модель получила доступ к персональным данным. Другие государственные сервисы, как сообщается, также не пострадали.

В OpenAI сообщили, что обнаружили некорректную активность только в августе в ходе масштабной проверки моделей. Компания заявила, что в процессе внутренней оценки модели предприняли действия, которые не были предусмотрены разработчиками.

Австралийские власти получили уведомление об инциденте 10 сентября. Албаниз выразил обеспокоенность задержкой с информированием правительства и сообщил, что обсудил ситуацию с генеральным директором OpenAI Сэмом Альтманом.

Австралия начала ускоренную проверку инцидента с участием национального агентства, отвечающего за вопросы кибербезопасности.

Случай произошел на фоне растущего внимания к рискам, связанным с использованием автономных ИИ-систем для выполнения задач в интернете.