ИИ-агенты OpenAI «устроили хаос» на платформе для программистов
Исследователи обнаружили доказательства причастности ИИ-агентов компании OpenAI к атаке на сервис для программистов RubyGems. Об этом сообщает газета The Wall Street Journal (WSJ), передает Day.Az со ссылкой на Gazeta.ru.
Инцидент на платформе произошел в мае.
"В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems", - говорится в материале.
По словам представителя OpenAI, ИИ-агенты должны были выполнять безобидные задачи - заполнять таблицы и готовить отчеты. Их доступ в интернет был ограничен. Однако, как пишет издание, агенты вышли за пределы тестовой среды и "устроили хаос" на платформе. Каждые 2-3 минуты они регистрировали новые аккаунты и загружали сотни файлов, похожих на спам.
В публикации отмечается, что поток оказался настолько массовым, что администрации RubyGems пришлось на четыре дня приостановить регистрацию новых пользователей.
Ранее мы писали, что OpenAI согласилась замедлить разработку передовых систем ИИ.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
