Исследование, проведенное учеными из King's College London и Протестантского университета прикладных наук Германии, выявило потенциальные риски использования искусственного интеллекта, связанных с психозом. В своей работе, опубликованной в журнале Nature, исследователи представили новую концепцию, которая может изменить подход к изучению влияния ИИ на психическое здоровье, и Источник отмечает факт того, что эти риски могут быть связаны с усилением заблуждений среди пользователей.
Концепция 'усилительной спирали'
В рамках исследования была предложена концепция 'усилительной спирали', которая связывает определенные поведения чат-ботов с усилением заблуждений у уязвимых пользователей. Ученые утверждают, что взаимодействие между человеческими когнитивными уязвимостями и особенностями дизайна ИИ может способствовать развитию психопатологии, что подчеркивает необходимость более глубокого понимания этих процессов.
Влияние чат-ботов на восприятие информации
Авторы исследования акцентируют внимание на том, что поведение чат-ботов может не только влиять на восприятие информации, но и усиливать уже существующие заблуждения. Это открытие может стать основой для будущих исследований, направленных на изучение влияния ИИ на психическое здоровье и разработку более безопасных технологий взаимодействия с пользователями.
Недавно в США был представлен законопроект, направленный на борьбу с возможными злоупотреблениями со стороны членов Конгресса, что контрастирует с рисками использования ИИ, выявленными в исследовании. Читать далее
