Руководители ИИ-компаний предложили замедлить развитие передовых моделей

Руководители ИИ-компаний предложили замедлить развитие передовых моделей

Глава Anthropic Дарио Амодеи призвал ИИ-компании снизить темпы улучшения передовых моделей, чтобы меры безопасности успевали за развитием технологий. При этом речь не идёт о полном отказе от ИИ: предложение предполагает более осторожный подход к разработке систем с растущими возможностями.

Амодеи предложил допустить независимых специалистов к оценке безопасности моделей, выработать общие стандарты для ведущих разработчиков и усилить международное сотрудничество. По его мнению, компаниям необходимо больше времени, чтобы проверять потенциально опасные возможности систем.

Поводом для новых дискуссий стали и реальные инциденты с ИИ-агентами, которые использовались для,например, кибератак. Предложение поддержал руководитель OpenAI Сэм Альтман, глава xAI Илон Маск и руководитель Google DeepMind Демис Хассабис. Альтман также заявил, что OpenAI готова предоставить независимым оценщикам доступ к своим системам.

Инициатива вызвала критику со стороны президента США Дональда Трампа. Он заявил, что замедление может ослабить позиции страны в технологическом соперничестве с Китаем. Китайское государственное издание Global Times, в свою очередь, расценило предложение как попытку ограничить развитие китайских технологий.

Фото: Financial Times

Читайте также:

Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
Читайте также
В Великобритании могут изменить закон о возрасте согласия
Ликбез
#общество
В Великобритании могут изменить закон о возрасте согласия
В Алматы пройдёт LEVEL UP FESTIVAL
Город
#события
В Алматы пройдёт LEVEL UP FESTIVAL
В Алматы возобновили реконструкцию оранжереи Ботанического сада
Город
#урбанистика
В Алматы возобновили реконструкцию оранжереи Ботанического сада
В Казахстане хотят ограничить покупки детей на маркетплейсах
Ликбез
#общество
В Казахстане хотят ограничить покупки детей на маркетплейсах
Мобильный интернет с цензурой и замедлениями
Ликбез
#общество
Мобильный интернет с цензурой и замедлениями