О намерении спасти человечество от катастрофических рисков заявила OpenAI

Разработчик ChatGPT компания OpenAI объявила о создании новой команды, в чьи задачи войдет недопущение «катастрофических рисков», со стороны искусственного интеллекта для человечества, сообщает prosud.kz.

Основной задачей команды станет сосредоточение на угрозах химического, биологического, радиологического и ядерного характера.

По мнению эксперта Центра стратегических и международных исследований Закари Калленборна, если объединить ИИ с ядерным оружием, то человечество получит рецепт ядерной катастрофы.

Если бы ИИ контролировал ядерное оружие, все мы могли бы быть мертвы. 40 лет назад, когда советские системы предупреждения о ядерном ударе внезапно пришли к выводу, что США начали ядерную войну, тогда только недоверие компьютерным расчетам подполковника Станислава Петрова спасло мир от катастрофы. Нет никакой гарантии, что некоторые страны не сделают ИИ ответственным за ядерные запуски, поскольку международное право не предусматривает обязательное присутствие такого же Петрова, — Закари Калленборн