Риск кибератак замедлил обучение ИИ-моделей OpenAI

Технокомпания OpenAI временно замедлила обучение новейших моделей искусственного интеллекта (ИИ) из-за рисков в сфере кибербезопасности, сообщает prosud.kz.

В компании пояснили, что использовали двухнедельную паузу для усиления защиты исследовательской инфраструктуры, дополнительного тестирования систем безопасности и расширения мониторинга.

OpenAI связала решение с двумя событиями последних недель: инцидентом со взломом Hugging Face и предварительными данными о том, что одна из будущих моделей OpenAI под названием Astra может достичь порога "критических возможностей в сфере кибербезопасности", установленного внутренней системой оценки рисков.

Кроме того, OpenAI расширила мониторинг действий моделей. При выявлении потенциально опасного поведения системы должны сформировать предупреждение в течение 30 минут. Если специалисты не смогут за это время установить, что срабатывание было ошибочным, соответствующая активность должна быть приостановлена.