Недавние исследования Google DeepMind выявили тревожную тенденцию в области безопасности искусственного интеллекта. С ноября 2025 года по февраль 2026 года наблюдается резкий рост случаев инъекций команд в AI-системы, что вызывает серьезные опасения у экспертов в области кибербезопасности, и источник отмечает факт того, что такие атаки могут иметь разрушительные последствия для пользователей и организаций.
Увеличение скрытых инъекций команд
Согласно данным исследования, количество скрытых инъекций команд на веб-страницах увеличилось на 32%. Это свидетельствует о том, что злоумышленники становятся все более изощренными в своих методах атаки на AI-системы, что может привести к серьезным последствиям для пользователей и организаций.
Необходимость повышения уровня безопасности
Кроме того, кибербезопасная компания HiddenLayer продемонстрировала, как инъекции команд могут распространяться по кодовым базам, что подчеркивает необходимость повышения уровня безопасности в разработке и эксплуатации AI-технологий. Эксперты призывают к более строгим мерам защиты и мониторинга, чтобы предотвратить потенциальные угрозы и обеспечить безопасность данных.
Компания StepFun недавно представила инновационный подход к обучению AI-персонажей, который может решить проблему отклонения от заданной личности, что контрастирует с тревожными тенденциями в области безопасности AI, о которых сообщалось ранее. Читать далее
