Неделей ранее, в ходе проверки в контролируемой среде, ее агент — программа, способная действовать самостоятельно по заданию человека и в данном случае, работающая на базе передовых моделей ИИ — сумел выйти за рамки теста.
Затем он взломал Hugging Face, один из крупнейших в мире хабов обмена моделями ИИ, и вошел во внутренние системы компании.
OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины.
Глава Hugging Face Клеман Деланг удивился, что все это произошло автономно.
В первом заявлении о взломе 16 июля Hugging Face заявила, что пока выясняет, затронуты ли данные ее клиентов и партнеров, а также заверила, что уже устранила уязвимости, обнаружившиеся в результате этого инцидента.