Крупнейшие американские технологические компании договорились создать независимые комитеты для контроля за развитием и безопасностью систем искусственного интеллекта.

В инициативе участвуют Google, Anthropic, Meta, OpenAI, xAI и Nvidia. Соответствующий документ подписали президент США Дональд Трамп и руководители компаний. Глава Белого дома опубликовал его в социальной сети Truth Social.

Документ предусматривает многоуровневую систему контроля. В частности, при советах директоров компаний будут созданы независимые комитеты, которые станут контролировать работу внутренних и внешних аудиторов, а также подразделений, отвечающих за безопасность ИИ.

Компании также намерены привлекать независимых аудиторов и экспертов для оценки действующих механизмов контроля. Кроме того, внутри организаций будут внедрены системы мониторинга возможностей ИИ-моделей и проверки их соответствия требованиям безопасности на этапах обучения и внедрения.

Отдельное внимание планируется уделить кибербезопасности, а также рискам, связанным с биологическими и химическими угрозами. Компании намерены контролировать, чтобы ИИ-модели не получали непреднамеренный доступ к техническим системам и не использовались для их взлома.

Кроме того, в компаниях создадут специальные подразделения, которые будут контролировать работу механизмов безопасности, мониторинга и выявления потенциальных угроз.

В документе отмечается, что в дальнейшем принятые меры могут получить законодательное закрепление. Компании также договорились регулярно проводить консультации для выработки общих стандартов и передовых практик в сфере безопасности искусственного интеллекта.

БР