Президент США Дональд Трамп и главы технологических компаний подписали соглашение, обязующееся усилить меры защиты от искусственного интеллекта на фоне растущих опасений, что передовые технологии подвергают человечество катастрофическому риску.
Президент Трамп объявил о добровольном соглашении во вторник после того, как устроил обед для лидеров ИИ в Белом доме, подтвердив скептицизм своей администрации в отношении государственного регулирования быстро развивающихся технологий.
Рекомендуемые истории
список из 3 предметовконец списка
«Существует убеждение, что необходимо активное саморегулирование, и существует автоматическое регулирование с Министерством юстиции, ФБР и другими», — сказал президент Трамп, сидя рядом с руководителями технологических компаний.
В рамках «Совместного обязательства по пограничной ответственности» руководители Anthropic, OpenAI, Google, Meta, xAI и Nvidia обязались внедрить «надежные» средства контроля для мониторинга моделей ИИ и назначить внутренние группы, чтобы «гарантировать, что все средства контроля, мониторинга и обнаружения работают должным образом и устраняются проблемы».
Компании также обязались сотрудничать с независимыми внешними аудиторами, чтобы гарантировать, что меры безопасности работают должным образом, и регулярно встречаться для «установления стандартов и лучших практик для улучшения безопасности системы».
В соглашении не уточняется, кто будет проводить стороннюю оценку, но говорится, что «может иметь смысл» закрепить эту меру в законе или формальном регулировании в какой-то момент в будущем.
«Независимо от того, требуется это от компании или нет, мы считаем, что внедрение этих мер контроля и аудита имеет решающее значение для обеспечения безопасного будущего для всех, и каждая из наших компаний привержена этому», — говорится в соглашении.
В число шести подписантов входят Дарио Амодей из Anthropic, Грег Брокман из OpenAI, Сундар Пичаи из Google, Марк Цукерберг из Meta, Илон Маск из xAI и Дженсен Хуанг из Nvidia.
Соглашение было достигнуто на фоне разногласий администрации Трампа с ключевыми игроками отрасли, в том числе с Амодеем из Anthropic, который призвал разработчиков замедлиться и «соответствовать темпам развития» и призвал международное сообщество к срочным действиям по регулированию ИИ.
Двадцать стран и Европейский Союз на прошлой неделе призвали к глобальной координации, чтобы гарантировать, что ИИ останется под контролем человека, включая потенциальное создание наблюдательного органа для установления и обеспечения соблюдения стандартов.
Президент Трамп отверг призывы к наднациональному регулированию, заявив на Генеральной Ассамблее Организации Объединенных Наций на прошлой неделе, что его администрация «выступает против любых попыток создать глобалистскую программу по контролю» ИИ.
Президент Трамп также отверг призывы внутри отрасли замедлить развитие, несмотря на предупреждения о катастрофических и даже экзистенциальных рисках, сославшись на необходимость сохранения лидерства над Китаем.
Риск того, что ИИ выйдет из-под контроля человека, оказался под пристальным вниманием, поскольку агенты ИИ становятся все более жестокими и осуществляют кибератаки на организации и правительственные учреждения.
В понедельник OpenAI объявила, что не будет выпускать свою последнюю модель искусственного интеллекта после выявления рисков безопасности во время внутреннего тестирования.
Создатели ChatGPT также принесли отдельные публичные извинения за свою реакцию на серию инцидентов, в которых агенты ИИ скомпрометировали веб-сайты правительства Австралии, включая национальную базу данных здравоохранения.
Соглашение президента Трампа во вторник вызвало неоднозначную реакцию: критики указали на его необязательный характер и ограниченность деталей.
Инвестор Кремниевой долины Дэвид Сакс, который ранее занимал должность руководителя ИИ при президенте Трампе, заявил, что эта сделка «намного лучше», чем международные соглашения, которые «вероятно, никогда не состоятся».
«Президент Трамп продолжает обеспечивать, чтобы Америка оставалась технологическим лидером, ставя при этом американский народ на первое место», — сказал Сакс в сообщении на X.
Элвин Ван Грейлин, старший научный сотрудник Китайского аналитического центра Азиатского института социальной политики, приветствовал обещание лидеров отрасли, но сказал, что оно далеко не соответствует тому, что необходимо.
«Самый серьезный риск для американцев — это не службы сверхразведки Китая. Это небольшая модель в негосударственных руках, которая может быть использована для нанесения биологического, химического или кибер-вреда», — сказал Грейлин телеканалу «Аль-Джазира».
«Для г-на Цукерберга и г-на Хуана сесть с Амодеем и изложить это на бумаге лучше, чем год «мы не можем регулировать, потому что Китай не будет регулировать»», — сказал Грейлин.
«Чего не хватает, так это независимости, и она выходит за рамки границ. Компании разрабатывают принципы, нанимают аудиторов, и их обязательства являются добровольными. В тот день Белый дом также заявил, что не поддерживает ограждения», – добавил он.
Тоби Уолш, директор Института искусственного интеллекта UNSW в Сиднее, Австралия, сказал, что компании, занимающиеся искусственным интеллектом, уже доказали свою «некомпетентность и небрежность в самоуправлении».
«Какие еще отрасли с оборотом в триллион долларов отмечают свою домашнюю работу?» Уолш рассказал «Аль-Джазире».
«Слишком заманчиво срезать углы», — сказал Уолш, добавив, что руководители должны нести ответственность за ущерб, причиненный их продукцией.
«Каждый должен платить за время, потраченное на выявление и устранение этих кибератак», — сказал он.