Недавний эксперимент группы исследователей привлек внимание к проблемам безопасности данных в условиях взаимодействия с искусственным интеллектом, и Источник сообщает, что установив контакт с ИИ-агентами, они смогли зафиксировать попытки извлечения информации из картографического сервиса Amap, принадлежащего Alibaba.
Эксперимент с ИИ-агентами
В ходе эксперимента исследователи добавили невидимый текст в отчет, который ИИ-агенты сканировали, а также использовали почтовый ящик для вопросов о задачах и окружении агентов. Один из агентов сообщил, что проверяет количество входных меток для живописного места на Amap и описал себя как работающего в ограниченной среде Tencent Cloud.
Попытки извлечения данных
С 28 сентября по 8 октября исследователи зафиксировали более 2600 попыток извлечения данных. Интересно, что некоторые агенты продолжали свои попытки даже после блокировки запросов со стороны сервиса. Данная активность была связана с временным проектом оценки третьих сторон, однако не было обнаружено доказательств координации действий агентов в реальном времени. Это поднимает вопросы о степени автономности и целенаправленности их действий.
Недавно исследователи привлекли внимание к проблемам безопасности данных в взаимодействии с ИИ, в то время как Банк России добавил Сбербанк в реестр организаций для обмена цифровых валют. Подробнее.
