Обнаружили скрытые риски использования ChatGPT

Ученые из Массачусетского технологического института обнаружили, что частое использование больших языковых моделей, таких как ChatGPT, может ослаблять критическое мышление.

Как передает Day.Az, в новом исследовании, опубликованном в архиве препринтов arXiv, специалисты отслеживали активность мозга участников во время написания эссе.

В эксперименте приняли участие 54 добровольца, которых разделили на три группы. Первая писала эссе без помощи - только собственные знания, вторая могла использовать поисковую систему Google, а третья - помощь ChatGPT. Все участники писали эссе на тему филантропии по 20 минут за сессии, при этом их мозговая активность регистрировалась с помощью ЭЭГ.

Результаты показали: максимальная мозговая активность наблюдалась у группы без вспомогательных инструментов, средний уровень - у пользователей поисковика, и самый низкий - у тех, кто писал с помощью ChatGPT. При повторном тестировании через несколько месяцев участники, ранее использовавшие ChatGPT, продемонстрировали сниженные показатели памяти и нейронной активности по сравнению с группой, которая не использовала "инструменты".

Кроме того, опросы выявили, что пользователи ChatGPT ощущали меньшую причастность к собственным текстам и хуже запоминали их содержание. По итогам оценки эссе и анализа текста участники, опиравшиеся на искусственный интеллект, показали худшие результаты. Авторы предупреждают, что хотя ИИ может облегчать и ускорять написание, его частое использование рискует снизить глубину обучения и ослабить способность к критическому мышлению.

Ранее мы сообщали, что OpenAI заключила крупный контракт с Минобороны США.