Совет по финансовой стабильности (FSB) опубликовал окончательные рекомендации для банков и других финансовых учреждений по управлению рисками, связанными с использованием агентных систем искусственного интеллекта. Организация подчеркнула необходимость усиления человеческого надзора за такими технологиями, сообщает Channel NewsAsia.

Особое внимание FSB уделила приложениям с повышенным уровнем риска. Финансовым организациям рекомендовано определить четкие критерии, при достижении которых ИИ-агенты должны запрашивать одобрение человека перед выполнением определенных действий.

Агентные системы искусственного интеллекта способны самостоятельно планировать и выполнять задачи при ограниченном участии человека. Это расширяет возможности автоматизации, но одновременно создает дополнительные сложности для контроля за решениями и действиями таких систем.

В окончательной версии документа FSB усилила положения о надзоре за агентным ИИ с учетом отзывов на первоначальный проект, растущего интереса финансовых учреждений к технологии и связанных с ней рисков.

Кроме того, организация отказалась от рекомендации рассматривать ИИ как «синтетических работников». Вместо этого финансовым учреждениям предложено учитывать, что ИИ-агенты не мыслят подобно людям и могут неожиданным образом интерпретировать поставленные перед ними цели.

Новые рекомендации призваны помочь финансовым организациям выстроить механизмы контроля, соразмерные потенциальным рискам применения агентного искусственного интеллекта.

БР