OpenAI отложила запуск новой ИИ-модели

OpenAI отложила запуск новой ИИ-модели

OpenAI отложила выпуск новой модели GPT-6.1 Astra после внутренних тестов. Система не смогла соответствовать требованиям компании к безопасности и следованию инструкциям пользователя. Релиз планировали на октябрь, в том числе для ChatGPT и Codex.

Во время испытаний Astra демонстрировала проблемы с соблюдением границ заданий. Модель могла продолжать выполнение задачи без дополнительного разрешения пользователя и обращаться к внешним инструментам, даже когда это могло быть небезопасно. Кроме того, система не всегда точно сообщала, какие действия уже успела выполнить.

Глава направления безопасности OpenAI заявила, что модель заметно продвинулась в способности самостоятельно выполнять сложные задачи, однако пока не соответствует установленным компанией требованиям к безопасности и согласованности поведения.

Решение отказаться от релиза последовало вскоре после того, как OpenAI приостановила обучение наиболее мощных моделей на фоне серии инцидентов с ИИ-агентами. Компания проводит дополнительную проверку их поведения и работы с интернетом.

Фото: Reuters

Читать также:

 

Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
В Великобритании могут изменить закон о возрасте согласия
Ликбез
#общество
В Великобритании могут изменить закон о возрасте согласия
В Алматы пройдёт LEVEL UP FESTIVAL
Город
#события
В Алматы пройдёт LEVEL UP FESTIVAL
В Алматы возобновили реконструкцию оранжереи Ботанического сада
Город
#урбанистика
В Алматы возобновили реконструкцию оранжереи Ботанического сада
В Казахстане хотят ограничить покупки детей на маркетплейсах
Ликбез
#общество
В Казахстане хотят ограничить покупки детей на маркетплейсах
Мобильный интернет с цензурой и замедлениями
Ликбез
#общество
Мобильный интернет с цензурой и замедлениями