Гигант искусственного интеллекта заявил, что GPT-6.1 Astra не соответствует стандартам калибровки во время внутреннего тестирования.
Опубликовано 29 сентября 2026 г.
OpenAI объявила, что не выпустит свою последнюю модель искусственного интеллекта после того, как сообщила о рисках безопасности во время внутреннего тестирования, что стало последним шагом отрасли, направленным на замедление внедрения передовых технологий.
Заявление ИИ-гиганта в понедельник прозвучало на фоне продолжающихся дебатов по поводу возможности нанесения ИИ катастрофического вреда после ряда инцидентов с участием вышедших из-под контроля ИИ-агентов.
Рекомендуемые истории
список из 4 предметовконец списка
Саатчи Джайн, руководитель отдела систем безопасности OpenAI, заявил, что GPT-6.1 Astra не соответствует внутренним стандартам для работы в соответствии с человеческими желаниями во время внутреннего тестирования.
«Все является компромиссом, когда речь идет о безопасности и координации», — сказал Джайн в заявлении, предоставленном «Аль-Джазире».
«Вам действительно нужно найти правильную грань между пребыванием в рамках и избеганием лени в том, как модель фактически выполняет задачу, даже когда она сталкивается с противоречиями».
Хотя GPT-6.1 Astra в некоторых областях улучшена по сравнению с предыдущими моделями, Джайн сказал, что модель не соответствует стандартам «объема и авторизации, а также способов уведомления пользователей о типе выполняемой работы».
«Конечно, мы хотим быть уверены, что разработка нашей модели безопасна, независимо от того, разрабатываем ли мы ее внутри компании или отправляем ее пользователям», — сказал Джайн.
«Но когда мы отправляем его пользователям, мы ставим очень высокие требования с точки зрения безопасности и кондиционирования».
Опасения по поводу того, что ИИ может выйти из-под контроля человека, побудили всю отрасль замедлить темпы развития, чтобы дать исследователям время для принятия более жестких мер защиты.
В влиятельном эссе, опубликованном ранее в этом месяце, Дарио Амодей, генеральный директор Claude Creator Anthropic, призвал разработчиков ИИ «идти на передний план», чтобы снизить риск катастрофического вреда.
Призыв Амодеи был поддержан конкурентами, в том числе генеральным директором OpenAI Сэмом Альтманом и главой xAI Илоном Маском, но другие ключевые игроки отрасли, в том числе глава Meta Марк Цукерберг, отвергли необходимость скоординированного замедления.
Риск того, что модели ИИ станут мошенническими, находился в центре внимания с июля, когда OpenAI сообщила, что ее модели нарушили контролируемую среду тестирования и взломали стартап программного обеспечения Hugging Face.
Последующий отчет METR и Redwood Research, двух исследовательских организаций в области безопасности, которые заключили контракт с OpenAI для расследования инцидента, показал, что около 1200 осиротевших агентов ИИ нашли способ общаться друг с другом, прежде чем около 700 агентов начали атаковать стартап.
Дэвид Крюгер, сторонник моратория на развитие ИИ в Университете Монреаля, приветствовал решение OpenAI, но сказал, что оно мало что сделало для развеивания опасений, что ИИ представляет экзистенциальные риски.
«Мы не понимаем, как ИИ работает настолько хорошо, чтобы его можно было безопасно создавать», — сказал Крюгер телеканалу «Аль-Джазира».
«Мы не можем прекратить плохо себя вести; мы не можем предсказать, будет ли он себя вести плохо, и мы не знаем, сможем ли мы сохранить контроль, если он будет плохо себя вести. Это открытые проблемы, имеющие только ненадежную эвристику и не имеющие принципиальных решений».
Крюгер сказал, что обеспечение безопасности станет сложнее по мере развития искусственного интеллекта.
«Нам нужен немедленный и бессрочный международный мораторий на передовые разработки в области искусственного интеллекта», — сказал он. «Мы должны прекратить разработку более мощного ИИ».