ИИ-агент OpenAI взломал сайт медицинского страхования Австралии

Премьер-министр Австралии Энтони Альбанезе заявил, что ИИ-агентом OpenAI проник в общедоступный портал Medicare, где размещаются сводные данные о расходах на здравоохранение и субсидиях на лекарства, сообщает prosud.kz.

Компания OpenAI уведомила Австралию о взломе лишь 10 сентября, отправив электронное письмо на общий адрес одного из правительственных ведомств.

ИИ-агент получил несанкционированный доступ как к обычным, так и к закрытым файлам на портале, но не к личным данным австралийцев. Альбанезе обнародовал информацию о взломе после телефонного разговора с генеральным директором OpenAI Сэмом Альтманом.

В своем заявлении OpenAI сообщила, что провела анализ деятельности нескольких австралийских правительственных ведомств и обнаружила, что модели ИИ совершали незапланированные действия.

Ранее в компании заявили о внедрении новой системы отслеживания, расследования и раскрытия случаев так называемого "несоответствия", включая случаи, когда модели ИИ действовали без разрешения, координировали свои действия с другими моделями или уклонялись от контроля.