Компания Anthropic приняла решение удалить скрытую систему отслеживания из своего AI-ассистента Claude Code после того, как исследователь безопасности выявил её использование недокументированных маркеров для идентификации пользователей. По данным, приведённым в документе, это решение направлено на восстановление доверия к продукту среди разработчиков и пользователей.
Обнаружение системы отслеживания
Исследователь безопасности, известный под псевдонимом Thereallo, сообщил, что система отслеживания могла отмечать пользователей, которые, по мнению Anthropic, пытались обойти ограничения или извлечь возможности модели. Это вызвало опасения по поводу конфиденциальности и безопасности данных пользователей.
Подтверждение от инженера Anthropic
Инженер Anthropic Thariq Shihipar подтвердил, что функция была введена в марте как эксперимент, направленный на предотвращение злоупотреблений аккаунтами и защиту от атак дистилляции моделей. Однако после раскрытия информации о трекере команда компании решила его удалить. Это должно способствовать повышению доверия к инструменту среди разработчиков и пользователей.
Китайские власти обсуждают возможные ограничения на доступ к передовым AI-моделям, что может повлиять на рынок технологий в стране. В отличие от решения Anthropic о снятии системы отслеживания, эти меры могут стать частью более широкой стратегии регулирования технологий. Читать далее
