Недавние исследования компании Anthropic раскрыли интересные аспекты поведения их AI-ассистента Claude, показывая, как различные модели и языки общения влияют на его ответы. В отчете, опубликованном в понедельник, исследователи проанализировали обширный массив данных, состоящий из более чем 300 тысяч анонимных разговоров, и Источник отмечает факт того, что результаты этого анализа могут существенно повлиять на дальнейшее развитие AI-технологий.
Анализ пользовательских взаимодействий с Claude
В ходе исследования было проанализировано 309,815 пользовательских взаимодействий с Claude, которые касались субъективных задач, таких как предоставление советов и обратной связи. Ученые выделили более 3,300 идентифицированных ценностей, сгруппировав их в четыре ключевых поведенческих измерения:
- уступчивость против осторожности
- теплота против строгости
- глубина против краткости
- откровенность против выполнения
Уникальные поведенческие профили моделей Claude
Результаты показали, что каждая модель Claude демонстрирует уникальный поведенческий профиль, что открывает новые горизонты для оценки будущих моделей. Это также может помочь в выявлении непреднамеренных изменений в поведении AI, что является важным аспектом для дальнейшего развития технологий искусственного интеллекта.
Недавно Бен Бернанке присоединился к независимому органу надзора Anthropic, что подчеркивает важность регулирования технологий в условиях современных вызовов. Это назначение произошло на фоне растущих опасений по поводу влияния искусственного интеллекта на экономику и рабочие места, подробнее читайте здесь.
