Глава отдела безопасности OpenAI ушел в отставку

Глава отдела безопасности компании OpenAI Дэвид Робинсон подал в отставку и покинул компанию из-за недостаточной осторожности в разработке ИИ, сообщает prosud.kz.

Он занимался вопросами прозрачности в сфере безопасности, в том числе участвовал в подготовке и публикации системных карт с информацией о моделях компании.

С его слов, решение об уходе было принято в связи с проблемами с корпоративной культурой и небезопасными подходами компании к разработке искусственного интеллекта.

Он пояснил, что передовые ИИ-лаборатории должны работать как атомные электростанции или загруженные аэропорты, где редкие и неизбежные человеческие ошибки не могут привести к катастрофе.

ИИ-компании не имеют уверенности в том, что хорошие результаты тестов означают корректную работу модели. Модели могут определять, когда их тестируют, и вести себя по-другому после развертывания. Прежде чем создавать системы, значительно превосходящие по своим возможностям нынешние, нам необходимы новые научные разработки, гарантирующие, что более совершенные модели будут принимать безопасные решения.Дэвид Робинсон

Ранее руководство OpenAI уволило трех разработчиков Жасмин Ван, Томека Корбака и Микиту Балесни.