Недавнее исследование, проведенное командой из MATS Research, ELLIS Institute, Max Planck Institute и Snyk, выявило серьезные уязвимости в API крупных AI-моделей, таких как Anthropic, OpenAI и Google. Как следует из официальной информации, ученые обнаружили, что разработчики случайно делятся конфиденциальной информацией, что может привести к утечке данных.
Извлечение API-ключей и паролей
В ходе анализа 315320 блоков рассуждений исследователи смогли извлечь 62 активных API-ключа и 33 пароля из публично доступных логов сессий. Это подчеркивает важность защиты данных, так как уязвимость связана с архитектурным решением, использующим единый ключ шифрования для всех сессий и моделей.
Обнаруженные артефакты и угрозы
Кроме того, в результате работы были обнаружены 367 артефактов, содержащих личные данные, и 182 учетные записи. Это открывает новые векторы атак, включая:
- кражу конфиденциальной информации
- возможность обучения конкурирующих моделей на основе извлеченных данных
Это ставит под угрозу безопасность пользователей и разработчиков.
Криптобиржа Kraken анонсировала запуск новой программы партнерства API, которая нацелена на интеграцию с ключевыми участниками крипторынка. Это событие подчеркивает важность защиты данных, особенно на фоне недавних уязвимостей в API крупных AI-моделей. подробнее
