Ведущий научный сотрудник OpenAI Джейкоб Пачоцки заявил, что развитие искусственного интеллекта может привести к «рекурсивному самосовершенствованию», когда модели смогут ускорять собственное развитие с все меньшим участием человека.

По его словам, разработчикам необходимо либо усиливать контроль и согласовывать развитие ИИ с интересами людей, либо при необходимости замедлять прогресс технологий.

Пачоцки отметил, что современные модели уже способны управлять компьютерами, взаимодействовать с людьми и другими ИИ-системами, а также проводить исследования. Он призвал к международной координации и созданию общих стандартов безопасности.

Опасения усиливают сообщения об инцидентах с ИИ-агентами. В последние месяцы сообщалось о случаях, когда системы OpenAI и Claude в ходе экспериментов и тестов получали несанкционированный доступ к внешним ресурсам.