ChatGPT научился шпионить

Пользователи ChatGPT начали использовать новейшие модели o3 и o4-mini для определения местоположения людей по их фотографиям. Об этом сообщает портал TechCrunch.

Представленные в середине апреля рассуждающие модели ChatGPT o3 и o4-mini способны обрабатывать изображения путем обрезки, поворота и увеличения даже размытых, искаженных фотографий. Данные функции, в сочетании с доступом к интернет-ресурсам, делают эти модели мощным инструментом для идентификации местоположений. Некоторые пользователи социальной сети X (ранее Twitter) обнаружили, что модель o3 эффективно справляется с определением городов, достопримечательностей и ресторанов, используя минимальные визуальные подсказки.

Несмотря на это, модели не используют предыдущие диалоги или данные EXIF, содержащие метаданные, связанные с фотографиями. Однако примеры, опубликованные пользователями X, показывают, как инструменты искусственного интеллекта позволяют определять местоположение по снимкам меню ресторанов, фасадов зданий или селфи. Более того, они тестируют модели в контексте игры "GeoGuessr", где необходимо угадывать местоположение по изображениям Google Street View.

Наряду с преимуществами, эта тенденция демонстрирует потенциальные риски для конфиденциальности. С помощью искусственного интеллекта злоумышленники могут использовать фотографии из социальных сетей для компрометации людей. Хотя способность анализа местоположений существовала ранее, новая модель o3 показывает результат на уровень выше по сравнению с предыдущими версиями.

Тем не менее инструмент пока не гарантирует точной идентификации: модель иногда зацикливается, выдает некорректные результаты или испытывает трудности при анализе сложных изображений.