Обсуждения начались на фоне «растущих опасений по поводу слишком быстрого развития ИИ». Так, глава Anthropic Дарио Амодеи призвал отрасль замедлить разработку и предложил правительству США создать условия для сотрудничества компаний в области безопасности.
По мнению американских правозащитников, согласованное ограничение развития ИИ потенциально может нарушать антимонопольные правила страны. OpenAI, со своей стороны, заявляет, что сотрудничество по безопасности может проходить и без специального разрешения.
Ранее основатель Microsoft Билл Гейтс также призвал замедлить развитие ИИ, поскольку общество пока не готово к масштабным изменениям, которые может принести эта технология. По словам Гейтса, потенциальные риски ИИ несопоставимы с теми, которые сопровождали появление персональных компьютеров или интернета. Масштаб возможных последствий требует более осторожного подхода и их предварительной оценки.
Глава Cohere Айдан Гомес заявил, что крупнейшие компании могут использовать вопросы безопасности, чтобы «получить больше влияния на правила работы всей отрасли».