Конвейер, ведущий к идее обреченности ИИ

Союзники президента Дональда Трампа атакуют генерального директора Anthropic Дарио Амодеи, представляя его как главного сторонника «обреченности ИИ» и одного из основателей движения эффективного альтруизма, которое в последнее время все чаще подвергается политической критике, пишет Axios.

Эти атаки свидетельствуют о том, что Anthropic может оставаться мишенью администрации Трампа, поскольку ее союзники выступают против предупреждений Амодеи об опасностях искусственного интеллекта на фоне приближающихся промежуточных выборов. По словам источников Axios, представители Трампа считают Амодеи удобной мишенью из-за его политических взглядов и сосредоточенности на безопасности ИИ.

Для инвесторов это создает дополнительные риски в преддверии ожидаемого рекордного IPO компании.

На этой неделе в Белом доме начала распространяться записка, призванная представить эффективный альтруизм как маргинальное, «сектантское» движение, оторванное от взглядов большинства американцев. Axios ознакомился с документом, подготовленным политическим советником Трампа.

В записке утверждается, что именно эффективный альтруизм «создал конвейер, ведущий к идее обреченности ИИ».

Критики движения, имеющего связи с сообществом исследователей искусственного интеллекта, обвиняют его в чрезмерной сосредоточенности на безопасности ИИ, защите животных - включая рассуждения о сознании креветок - и других ценностях, которые они считают далекими от американского мейнстрима.

В документе говорится, что движение ставит «иностранцев выше граждан, гипотетических людей будущего выше ныне живущих и - в соответствии с нынешней повесткой - возможный машинный разум выше американцев».

В записке отдельно упоминается Амодеи. Его называют одним из людей, которые «создали сеть» эффективного альтруизма. В документе также упоминаются его сестра и президент Anthropic Даниэла Амодеи, чей супруг ранее возглавлял благотворительную организацию, занимавшуюся вопросами безопасности ИИ.

Эти связи в записке названы «узлом Anthropic».

Один из источников, близких к администрации, заявил Axios, что Амодеи «олицетворяет идеологию и глобалистский подход к инновациям, противоречащие повестке президента «Америка прежде всего».

Подготовленная с учетом позиции Трампа записка подчеркивает глубокие философские и политические разногласия между сторонниками MAGA и элитами Кремниевой долины - раскол, который сделал отношения Anthropic с Белым домом напряженными.

По мнению представителей Белого дома и союзников администрации, в Anthropic слишком много либералов эпохи Байдена, демократов и «странных калифорнийцев».

Предупреждения Амодеи об опасностях искусственного интеллекта подвергаются критике со стороны союзников Трампа и других руководителей технологических компаний.

Однако в окружении Трампа именно Амодеи считают главным публичным представителем движения за безопасность ИИ после нескольких серьезных конфликтов Anthropic с администрацией в этом году.

БР