Президент США Дональд Трамп и руководители крупнейших американских компаний, занимающихся технологиями и искусственным интеллектом, подписали добровольное «морально обязывающее» соглашение, направленное на введение более жестких гарантий в отношении разработки и внедрения ИИ.Президент Трамп объявил о Совместном обязательстве по пограничной ответственности после обеда в Белом доме с руководителями крупных технологических компаний, назвав соглашение «почти конституционным». Одностраничное соглашение предусматривает четыре уровня внутреннего и внешнего контроля, включая независимые аудиты и надзор за системами безопасности искусственного интеллекта на уровне совета директоров.Соглашение было достигнуто в то время, когда администрация Трампа продолжает настаивать на быстром развитии искусственного интеллекта в условиях растущей обеспокоенности по поводу потенциальных рисков, связанных с технологиями искусственного интеллекта. Президент Трамп неоднократно отвергал призывы к установлению широких «ограждений», утверждая, что ограничение ИИ нанесет ущерб экономическому росту США и конкуренции с Китаем. «Это как конституция».«Это в каком-то смысле похоже на конституцию, и ее подписало наибольшее количество людей в мире, и я подписал ее как президент. Это действительно форма защиты», — сказал Трамп.Соглашение подписали Трамп, генеральный директор Anthropic Дарио Амодей, генеральный директор Google Сундар Пичаи, генеральный директор Meta Марк Цукерберг, президент OpenAI Грег Брокман, генеральный директор Nvidia Дженсен Хуанг и Илон Маск, основатель xAI, которая сейчас является частью SpaceX.Президент Трамп заявил, что соглашение позволит обеспечить «очень сильное саморегулирование» внутри отрасли, и назвал его «морально обязывающим». Он сказал, что около 10 человек будут назначены в комитет, который будет осуществлять «надзор за всем предприятием», а также будет назначен кто-то для наблюдения за выполнением соглашения после консультаций с представителями отрасли.Этот документ не налагает юридических требований и не предписывает штрафы для компаний, которые их не соблюдают. Вместо этого он излагает добровольные инициативы и оставляет открытой возможность будущего регулирования.«Со временем, возможно, имеет смысл закрепить эти меры в законах и постановлениях», — говорится в соглашении.Компании-участники также договорились регулярно встречаться для установления стандартов безопасности и передового опыта для систем искусственного интеллекта.4 уровня защиты ИИСоглашение требует от компаний установить «надежный внутренний контроль» для мониторинга моделей ИИ во время обучения и развертывания, особенно в областях, связанных с кибербезопасностью, биобезопасностью и химическими угрозами. Этот контроль также направлен на предотвращение взлома моделей или несанкционированного доступа к техническим системам.Второй уровень требует, чтобы внутренние команды проверяли, что мониторинг, обнаружение и другие меры безопасности компании работают должным образом.Третий уровень включает «независимых внешних аудиторов», которые оценивают, действительно ли эти меры контроля работают. Четвертый предусматривает создание независимого комитета совета директоров каждой компании для рассмотрения отчетов внутренних команд и внешних аудиторов.Некоторые меры уже используются ведущими ИИ-компаниями или аналогичны предыдущим усилиям ведущих ИИ-компаний.Добровольный характер соглашения вызвал скептицизм у некоторых экспертов. Робин Зия, доцент кафедры компьютерных наук в Университете Южной Калифорнии, задался вопросом, должно ли быть достаточно доверия к компаниям, чтобы контролировать себя, заявив, что важно обеспечить, чтобы намерения крупных лабораторий искусственного интеллекта «хорошо соответствовали более широким интересам американского народа».Алекс Паскаль, исполнительный директор Центра Интернета и общества Беркмана Кляйна, раскритиковал широкие и расплывчатые формулировки соглашения, утверждая, что для снижения рисков ИИ потребуются ужесточение юридической ответственности и регулирования.Амодей был одним из самых откровенных людей, предупреждавших о рисках быстрого развития ИИ, но он также осторожно высказывался в Белом доме.«Эта технология сопряжена с очень реальными рисками».«И вы знаете, механизмы борьбы с этими рисками все еще обсуждаются», – сказал Амодей.Президент Трамп пропагандирует «сверхинтеллект»О соглашении было объявлено одновременно с более широкими усилиями Белого дома по ускорению развития искусственного интеллекта. Президент Трамп заявил, что Соединенным Штатам не следует вводить ограничения, которые могут замедлить прогресс в борьбе с Китаем.«Мы никогда не остановим развитие технологий после промышленной революции», — заявил президент Трамп на запуске America.gov, чат-бота с искусственным интеллектом, призванного помочь американцам получить доступ к государственным услугам. «Мы не можем сдержать это, и мы далеко впереди».Президент Трамп также подписал указ, предписывающий исполнительной власти заменить термин «искусственный интеллект» на «сверхинтеллект» или «СИ» в официальных сообщениях и политических документах.«Этот приказ предписывает всем департаментам и агентствам использовать термины «сверхинтеллект» и «СИ» в официальных сообщениях, сообщениях, политических документах и нестатутных документах в рамках исполнительной власти и больше не признавать термины «искусственный интеллект» или «ИИ»», — говорится в приказе.