Недавние исследования, проведенные ведущими технологическими компаниями, такими как Google и Microsoft, выявили серьезные угрозы для ИИ-агентов, связанные с атаками с инъекциями команд. Источник отмечает факт того, что эти инциденты подчеркивают необходимость повышения безопасности в области искусственного интеллекта.
Предупреждение Google о злонамеренных веб-страницах
В апреле 2023 года Google выпустил предупреждение о том, что злонамеренные веб-страницы могут скрывать невидимые инструкции, способные обмануть ИИ-агентов. Такие атаки могут привести к утечке конфиденциальной информации, что ставит под угрозу безопасность пользователей и организаций.
Уязвимость в Claude Code GitHub Action от Microsoft
В июне Microsoft сообщила о выявленной уязвимости в Claude Code GitHub Action. Эта уязвимость могла привести к утечке учетных данных, хранящихся в программных конвейерах, что также подчеркивает важность защиты данных в процессе разработки программного обеспечения. Оба случая свидетельствуют о необходимости усиления мер безопасности для защиты ИИ-систем от потенциальных угроз.
Пока исследуются угрозы безопасности ИИ, прокуратура Нидерландов начала уголовное расследование в отношении криптоплатформы Knaken. Читать далее
