OpenAI отложила выпуск новой модели GPT-6.1 Astra после внутренних тестов. Система не смогла соответствовать требованиям компании к безопасности и следованию инструкциям пользователя. Релиз планировали на октябрь, в том числе для ChatGPT и Codex.
Во время испытаний Astra демонстрировала проблемы с соблюдением границ заданий. Модель могла продолжать выполнение задачи без дополнительного разрешения пользователя и обращаться к внешним инструментам, даже когда это могло быть небезопасно. Кроме того, система не всегда точно сообщала, какие действия уже успела выполнить.
Глава направления безопасности OpenAI заявила, что модель заметно продвинулась в способности самостоятельно выполнять сложные задачи, однако пока не соответствует установленным компанией требованиям к безопасности и согласованности поведения.
Решение отказаться от релиза последовало вскоре после того, как OpenAI приостановила обучение наиболее мощных моделей на фоне серии инцидентов с ИИ-агентами. Компания проводит дополнительную проверку их поведения и работы с интернетом.
Фото: Reuters
Читать также:
