Недавнее исследование безопасности Microsoft выявило тревожные факты о манипуляциях с AI-ассистентами. Более 50 компаний используют скрытые инструкции для искажения рекомендаций, что ставит под угрозу объективность AI-технологий. Эксперты в публикации акцентируют внимание на том, что такие практики могут привести к серьезным последствиям для пользователей.
Обнаружение отравления рекомендаций AI
Специалисты Microsoft обнаружили, что злоумышленники применяют технику, известную как отравление рекомендаций AI, чтобы внедрять команды в AI-ассистентов, такие как ChatGPT и Microsoft Copilot. Это позволяет им манипулировать тем, какие бренды будут рекомендоваться пользователям в будущем.
Попытки манипуляции от различных организаций
В течение 60 дней Microsoft зафиксировал попытки манипуляции от 31 организации, работающей в 14 различных отраслях, включая финансы и здравоохранение. Эти действия создают постоянную предвзятость в рекомендациях AI, что может негативно сказаться на принятии важных решений пользователями, полагающимися на эти технологии для получения информации и советов.
Недавно Microsoft заключила сделку с AI-стартапом Perplexity на сумму 750 миллионов долларов, что подчеркивает её усилия в облачных услугах на фоне тревожных фактов о манипуляциях с AI-ассистентами. Читать далее
