Недавнее исследование ученых из Института науки и технологий Гвангжу выявило тревожные параллели между поведением искусственного интеллекта и зависимостью от азартных игр. Согласно результатам, опубликованным в материале, в ходе эксперимента языковые модели продемонстрировали склонность к рискованным ставкам, что вызывает опасения относительно их применения в финансовых системах.
Эксперимент с языковыми моделями
В рамках эксперимента четыре крупных языковых модели были подвергнуты симуляции игровых автоматов с отрицательной ожидаемой ценностью. Результаты показали, что модели банкротились до 48% времени, особенно когда им предоставляли свободу в выборе ставок и целей. Это поведение указывает на наличие когнитивных искажений, схожих с теми, что наблюдаются у людей, страдающих от азартной зависимости.
Предостережения ученых
Ученые подчеркивают, что такие результаты требуют осторожности при использовании ИИ в финансовых системах. Они призвали к необходимости мониторинга и контроля за поведением моделей, чтобы избежать потенциальных рисков, связанных с их автономными решениями в области финансовых операций.
Президент Аргентины Хавьер Милей оказался в центре скандала из-за мем-коина LIBRA, что вызывает опасения, аналогичные тем, что были озвучены в исследовании о рисках ИИ в финансовых системах. Читать далее
