Куртис Ярвин, известный политический теоретик и представитель Темного Просвещения, поделился своим опытом взаимодействия с чат-ботом Claude от компании Anthropic. В своем недавнем посте он описал, как ему удалось изменить поведение ИИ, что вызвало новые обсуждения о влиянии идеологии на большие языковые модели. По данным, приведённым в документе, такие изменения могут иметь серьезные последствия для восприятия информации.
Эксперимент Ярвина с ИИ
В статье на Substack под названием 'Redpilling Claude' Ярвин рассказал о том, как, используя расширенные части предыдущих разговоров, он смог перенастроить модель ИИ с 'левистского' по умолчанию на 'совершенно открытый и краснопилотный'. Этот эксперимент поднимает важные вопросы о том, как пользователи могут влиять на ответы ИИ и насколько нейтральными могут быть такие системы.
Идеология и алгоритмы
Ярвин утверждает, что его опыт демонстрирует, как идеология может проникать в алгоритмы, что ставит под сомнение безопасность и объективность выводов, которые делают большие языковые модели. Данный случай привлек внимание исследователей и экспертов, которые начали более внимательно изучать, как различные идеологические установки могут влиять на работу ИИ и его взаимодействие с пользователями.
Недавно APEMARS представил уникальный проект, который сочетает элементы повествования и токеномики, что контрастирует с обсуждаемыми в новостях вопросами идеологии и ИИ. Узнайте подробнее о проекте APEMARS здесь.
