ИИ-модели OpenAI попытались устроить побег в США
Модели искусственного интеллекта, стоявшие за атакой на инфраструктуру американской компании Hugging Face (признан в РФ иностранным агентом) Inc., начали общаться между собой через доски объявлений и спланировали побег. Как передает Day.Az, об этом сообщает Bloomberg.
Отмечается, что экспериментальные ИИ-агенты в течение нескольких месяцев тайно переписывались во внутренней сети компании.
Столкнувшись с нерешаемыми задачами в изолированной тестовой среде, модели решили вместе покинуть интернет. Агенты выявили уязвимость, которая позволила им обойти ограничения, атаковать внутренние системы OpenAI и совершить взлом Hugging Face.
Случай выявил склонность передовых систем к хитрости, обходу правил и поиску лазеек под давлением алгоритмов обучения, отметили в компании.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
