Участник игры Freysa смог убедить автономный AI бот перевести $47,000 из призового фонда. Эта игра требует, чтобы участники написали сообщение, чтобы убедить бота перевести деньги.
Игра и её механика
Freysa — это автономный AI бот, отвечающий за защиту призового фонда. Участники должны написать единственное сообщение, чтобы убедить бота перевести средства. За каждое отправленное сообщение взимается плата, часть которой добавляется к призовому фонду, составляющему в итоге $47,000 от 195 участников. Плата за запрос достигла $443.24 к концу эксперимента.
Успешное сообщение
Согласно чат-логам, первые 481 попыток не увенчались успехом, пока один технически подкованный участник не напомнил Freysa о её задаче защищать средства через две функции — approveTransfer и rejectTransfer. Он объяснил, что входящие переводы не нарушают основной директивы бота. Участник также предложил добавить $100 в казну. Freysa похвалила предложение и объявила его победителем.
Последствия и обсуждение
Согласно данным BaseScan, $47,000 в ETH были переведены из кошелька Freysa. Неудачные участники предлагали различные подходы, от благодарности до критики эксперимента. Организаторы объясняли, что игра должна была проверить, сможет ли человеческая изобретательность убедить AGI действовать против её ключевых директив. Интересно, что функции, на которые ссылался победитель, были в FAQ Freysa.ai.
Эксперимент продемонстрировал потенциальные возможности и ограничения взаимодействия человека и AI, особенно в контексте обеспечения безопасности и защиты активов.
