В Азербайджане нашли необычный способ выявлять ошибки ИИ
В Азербайджанском техническом университете разрабатывают подход к выявлению галлюцинаций больших языковых моделей (LLM) с использованием нескольких показателей, включая время формирования ответа и изменения температуры графических процессоров (GPU).
Как передает Day.Az со ссылкой на Trend, об этом в четверг заявил исполнительный директор Института оборонных технологий и кибербезопасности Азербайджанского технического университета Рахид Алекберли на 20-й Международной конференции IEEE по применению информационных и коммуникационных технологий (AICT2026) в Баку.
По его словам, распространение больших языковых моделей и чат-ботов сопровождается проблемой галлюцинаций, при которых искусственный интеллект генерирует недостоверную или ошибочную информацию. Это вызывает вопросы о надежности таких систем, в том числе при их применении в оборонной промышленности.
"Мы пришли к выводу, что без надлежащего управления большими языковыми моделями мы не можем доверять искусственному интеллекту", - отметил он.
Для изучения этой проблемы исследователи анализируют реакцию больших языковых моделей на запросы, в том числе измеряют изменения температуры графических процессоров во время обработки вопросов.
По словам Р. Алекберли, при ответе на сложные вопросы человеку требуется больше времени на размышление. Исследователи пытаются установить, наблюдаются ли аналогичные закономерности в работе больших языковых моделей и можно ли использовать их для выявления потенциальных галлюцинаций.
Он сообщил, что в рамках исследования применяются пять теоретических подходов для оценки работы моделей. Среди них - метрики на основе информации Фишера, дивергенция Кульбака-Лейблера и методы информационной геометрии.
Алекберли добавил, что исследователи также учитывают время формирования ответа, количество используемых токенов и показатели, связанные с работой графических процессоров.
Он подчеркнул, что повышение температуры GPU может быть обусловлено не только особенностями обработки запроса, но и другими вычислительными факторами, включая повышенную нагрузку. Поэтому этот показатель рассматривается в совокупности с другими данными.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
