Один из основоположников современных нейросетей призвал не создавать сверхинтеллект, пока ученые не придут к единому мнению о возможности его безопасного использования.

Разработка сверхмощных систем искусственного интеллекта без достаточных гарантий безопасности может иметь катастрофические последствия для человечества, вплоть до его исчезновения. Об этом заявил британско-канадский ученый, лауреат Нобелевской премии по физике Джеффри Хинтон.

Как передает БР со ссылкой на The Times, Хинтон призвал отказаться от разработки сверхинтеллекта до тех пор, пока научное сообщество не сформирует консенсус относительно возможности его безопасного создания и контролируемого применения.

«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования», - заявил ученый.

По словам Хинтона, появление систем, которые превзойдут человека по интеллекту, может создать принципиально новые риски. Если человечество утратит контроль над такими технологиями, последствия могут оказаться катастрофическими и в худшем сценарии привести к исчезновению человеческой цивилизации.

Предупреждение прозвучало накануне внесения в парламент Великобритании законопроекта, предусматривающего запрет на создание сверхинтеллекта в стране. Инициативу подготовила некоммерческая организация Control AI.

Документ уже получил поддержку более чем 130 парламентариев, представляющих разные политические партии. При этом британское правительство пока не выразило официальной поддержки инициативе.

Законопроект также не является правительственной инициативой: его выдвинул депутат правящей Лейбористской партии Алекс Собел.

Предупреждение Хинтона прозвучало на фоне усиливающихся в Великобритании дискуссий о том, насколько далеко следует продвигаться в создании систем ИИ, способных превзойти человека по интеллекту, и какие ограничения необходимо установить до появления таких технологий.