OpenAI не будет выпускать новую модель ИИ GPT-6.1 Astra из соображений безопасности, подтвердил во вторник производитель ChatGPT.
Саачи Джайн, руководитель отдела систем безопасности в OpenAI, сказал, что системы искусственного интеллекта, которые сами выполняют задачи, такие как просмотр веб-страниц или использование приложений, «не полностью соответствуют стандартам» стандартов компании.
Во вторник OpenAI также опубликовала обновленную информацию об инциденте, в ходе которого ее модели получили доступ к веб-сайтам и системам правительства Австралии без авторизации, который произошел в июне, но не был обнародован до прошлой недели.
Этот инцидент и другие подобные нарушения моделей, разработанных ведущими компаниями в области искусственного интеллекта, в последние недели усилили дебаты о рисках, связанных с этой технологией.
В последние недели высшие руководители ИИ, в том числе Сэм Альтман из OpenAI и руководитель Anthropic Дарио Амодей, призвали отрасль замедлить развитие из-за опасений по поводу рисков, связанных с этой технологией.
Решение OpenAI, о котором впервые сообщило Wall Street Journal, является редким примером того, как крупный разработчик ИИ приостановил выпуск новой версии из соображений безопасности.
Последняя модель не справилась с тем, «как оставаться в пределах объема и разрешений и сообщать пользователю о типе выполняемой работы», — сказал Джайн.
“Разрабатываем ли мы модели внутри компании или отправляем их пользователям, мы хотим быть уверены, что наша разработка моделей безопасна. Но когда мы отправляем их пользователям, у нас гораздо более высокая планка с точки зрения безопасности и согласованности”, – добавила она.
Флагманская модель агента GPT-6 Astra была выпущена в сентябре и специализируется на сложном выводе и автономном выполнении задач. В OpenAI заявили, что это результат «лет исследований и больших ставок».
Средства контроля безопасности компании оказались под пристальным вниманием после нескольких громких инцидентов, связанных с ее технологиями.
