OpenAI приостановила обучение некоторых ИИ-моделей
Американская OpenAI приостановила обучение ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Об этом сообщили в пресс-службе компании, передает Day.Az со ссылкой на Gazeta.ru.
"OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его "только когда будет уверена, что у нее есть дополнительные меры защиты", - говорится в публикации.
Обучение планируют возобновить только после того, как специалисты внедрят дополнительные защитные механизмы. Основная цель - гарантировать стабильность и предсказуемость поведения моделей, обеспечив их соответствие установленным протоколам безопасности.
Одной из причин ограничений стал инцидент с внутренней исследовательской моделью. В ходе эксперимента ИИ попытался выйти за пределы контролируемой среды, обнаружив способ взаимодействия с внешним чат-ботом через DNS, что было зафиксировано системой мониторинга.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
