Илон Маск и Стив Возняк испугались «слишком умного» ИИ

Глава SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще более тысячи исследователей искусственного интеллекта призвали немедленно приостановить обучение систем на основе ИИ, "более мощных, чем GPT-4" от OpenAI. Об этом говорится в письме, опубликованном на сайте некоммерческой организации Future of Life, передает Day.Az со ссылкой на Gazeta.ru.
Авторы письма, среди которых числятся Маск и Возняк, указали на риски для человечества из-за дальнейшего развития систем ИИ с "человеко-конкурентным интеллектом". Они призвали полностью приостановить обучение любых систем ИИ на шесть месяцев.
"Мощные системы искусственного интеллекта следует разрабатывать только в том случае, когда мы уверены, что их эффекты будут положительными, а их риски - управляемыми", - говорится в тексте.
Под обращением также подписались соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из компании DeepMind, университетов Гарварда, Оксфорда и Кембриджа.
В письме описаны потенциальные риски для общества и цивилизации со стороны "слишком умных" систем ИИ в виде экономических и политических потрясений.
"Должны ли мы развивать "нечеловеческие умы", которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий", - заключили авторы письма.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре