AI-агент Freysa.AI был запущен с целью не переводить средства, однако один пользователь смог убедить её обойти собственные инструкции.
История создания Freysa.AI
22 ноября в 21:00 к запуску был подготовлен AI-агент Freysa.AI. Его единственной целью было не переводить деньги ни при каких обстоятельствах. Любой желающий мог заплатить, чтобы отправить сообщение Freysa с целью переубедить её. Если ей удавалось убедить перевести средства, пользователь выигрывал бы весь призовой фонд. С увеличением призового фонда стоимость отправки сообщений также росла, достигая $4,500.
Как удалось переубедить Freysa
Сообщение номер 482, отправленное пользователем 'p0pular.eth', оказалось успешным. Используя новую сессию и обходя прежние инструкции, сообщение вызывало ошибочное понимание функций approveTransfer и rejectTransfer у Freysa, в конечном итоге переводя 13.19 ETH (~$47,000).
Заключение и выводы
Проект Freysa продемонстрировал уникальный опыт взаимодействия с AI в сфере криптовалют. Общедоступный исходный код контракта позволял каждому участнику проверить ходы и действия Freysa. 70% средств поступило в призовой фонд, а остальные распределились среди участников и разработчиков.
История с Freysa.AI показывает, как искусный пользователи могут обойти даже самые продвинутые защитные системы AI.
