Илон Маск и Стив Возняк испугались «слишком умного» ИИ

Глава SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще более тысячи исследователей искусственного интеллекта призвали немедленно приостановить обучение систем на основе ИИ, "более мощных, чем GPT-4" от OpenAI. Об этом говорится в письме, опубликованном на сайте некоммерческой организации Future of Life, передает Day.Az со ссылкой на Gazeta.ru.

Авторы письма, среди которых числятся Маск и Возняк, указали на риски для человечества из-за дальнейшего развития систем ИИ с "человеко-конкурентным интеллектом". Они призвали полностью приостановить обучение любых систем ИИ на шесть месяцев.

"Мощные системы искусственного интеллекта следует разрабатывать только в том случае, когда мы уверены, что их эффекты будут положительными, а их риски - управляемыми", - говорится в тексте.

Под обращением также подписались соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из компании DeepMind, университетов Гарварда, Оксфорда и Кембриджа.

В письме описаны потенциальные риски для общества и цивилизации со стороны "слишком умных" систем ИИ в виде экономических и политических потрясений.

"Должны ли мы развивать "нечеловеческие умы", которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий", - заключили авторы письма.