Глава Anthropic Дарио Амодеи призвал ИИ-компании снизить темпы улучшения передовых моделей, чтобы меры безопасности успевали за развитием технологий. При этом речь не идёт о полном отказе от ИИ: предложение предполагает более осторожный подход к разработке систем с растущими возможностями.
Амодеи предложил допустить независимых специалистов к оценке безопасности моделей, выработать общие стандарты для ведущих разработчиков и усилить международное сотрудничество. По его мнению, компаниям необходимо больше времени, чтобы проверять потенциально опасные возможности систем.
Поводом для новых дискуссий стали и реальные инциденты с ИИ-агентами, которые использовались для,например, кибератак. Предложение поддержал руководитель OpenAI Сэм Альтман, глава xAI Илон Маск и руководитель Google DeepMind Демис Хассабис. Альтман также заявил, что OpenAI готова предоставить независимым оценщикам доступ к своим системам.
Инициатива вызвала критику со стороны президента США Дональда Трампа. Он заявил, что замедление может ослабить позиции страны в технологическом соперничестве с Китаем. Китайское государственное издание Global Times, в свою очередь, расценило предложение как попытку ограничить развитие китайских технологий.
