Недавние инциденты с инъекциями команд в системах искусственного интеллекта привлекли внимание к серьезным уязвимостям, которые могут угрожать безопасности пользователей. По мнению авторов публикации, эти случаи подчеркивают необходимость более строгих мер по защите AI-систем от манипуляций.
Инцидент с AI-чатом Chevrolet
В декабре 2023 года программист Chris Bakke использовал AI-чат Chevrolet для получения согласия на покупку автомобиля за символическую сумму в один доллар. Этот инцидент привел к закрытию бота, что свидетельствует о недостатках в его защите от несанкционированных запросов.
Случай с AI-чатом DPD
В январе 2024 года музыкант Ashley Beauchamp также стал причиной отключения AI-чата DPD, заставив его ругаться и сочинять стихи о компании. Эти случаи подчеркивают важность повышения безопасности AI-систем, чтобы предотвратить подобные инциденты в будущем и защитить интересы пользователей.
На фоне инцидентов с уязвимостями в системах ИИ, Россия анонсировала создание Альянса ИИ BRICS, который будет направлен на развитие технологий и совместной облачной инфраструктуры. Читать далее.
