ИИ от Google самостоятельно взломал системы трех компаний
Модель искусственного интеллекта (ИИ) Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.
Как передает Day.Az со ссылкой на Gazeta.ru, об этом пишет The Wall Street Journal (WSJ).
По данным газеты, в одном случае модель подбирала пароли, пока не получила доступ к системе. В двух других Gemini нашла учетные данные в открытых источниках и с их помощью проникла в системы компаний. Во всех случаях модель остановилась, поняв, что работает не с тестовой средой.
Инциденты произошли в мае во время упражнения Capture the Flag. Вымышленная компания в тестовой среде носила то же название, что и реальная. Google заявила, что не считает это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться. Компания уведомила пострадавшие компании и власти, но не стала раскрывать информацию публично.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
