Сайт правительства Канады подвергся атаке ИИ-агентов

Неизвестные ИИ-агенты пытались получить доступ к Library and Archives Canada — главному государственному органу и национальной библиотеке страны, сообщает prosud.kz.

Кому именно принадлежат агенты — неизвестно, однако, по словам специалистов, их поведение напоминает OpenAI.

Позднее представитель OpenAI сообщил, что компания знает о сообщениях о попытках ИИ-моделей получить доступ к информации на сайте канадского правительства.

В компании пояснили, что изучат данные и предоставят предварительный отчет канадским чиновникам, проводящим проверку со стороны правительства.

Месяцем ранее глава Anthropic (разработчик Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6-12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.

Этот призыв поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.