В феврале 2026 года разработчик Фернандо Ирарразаваль провел эксперимент с AI-ассистентом Fiu, пытаясь выявить уязвимости в его системе безопасности. Используя метод инъекции команд, он отправил более 6000 электронных писем, чтобы заставить ИИ раскрыть секретные данные, такие как API-ключи и пароли. Источник отмечает факт того, что этот эксперимент подчеркивает важность защиты данных в эпоху активного использования искусственного интеллекта.
Эксперимент с менее защищенными моделями AI
Разработчик намерен повторить свой эксперимент с менее защищенными моделями AI, чтобы лучше понять, где именно могут возникать уязвимости. Это подчеркивает важность тестирования систем безопасности и постоянного обновления методов защиты от потенциальных угроз.
1 апреля 2026 года компания Cottonia анонсировала запуск новой распределенной вычислительной инфраструктуры для AI-агентов, что контрастирует с экспериментом Фернандо Ирарразаваля по выявлению уязвимостей в системах безопасности. Читать далее
