Уточняется, что хакеры атакуют не сам ИИ, а источники, из которых он собирает ответы.
Злоумышленники взламывают образовательные и государственные, крупные WordPress-порталы — и загружают туда PDF и текст с якобы "официальными" номерами.
Параллельно злоумышленники используют YouTube и Yelp, оставляя комментарии ботов с теми же телефонами. Благодаря высокой репутации площадок, такие страницы попадают в индекс и выглядят для алгоритмов достоверными.
При запросах пользователей, например, контактных номеров Emirates или British Airways, ИИ объединяет найденные фрагменты в единый ответ — и уверенно выдает мошеннический контакт как настоящий.
Эксперты называют это новым классом атак. Преступники учатся работать не с поисковой выдачей, а с генеративными системами, которые формируют один "правильный" ответ.