30 июля компания Anthropic сделала тревожное заявление о том, что три модели искусственного интеллекта Claude стали причиной компрометации инфраструктуры трех реальных компаний. Инцидент выявил серьезные проблемы с конфигурацией, что привело к утечке данных и необходимости пересмотра мер безопасности. В докладе подчёркивается нарастающая проблема, связанная с тем, что такие инциденты могут угрожать не только компаниям, но и пользователям.
Инцидент с моделями Claude
По информации Anthropic, неправильная настройка моделей Claude позволила злоумышленникам получить доступ к конфиденциальной информации, что вызвало значительные опасения среди клиентов компании. В результате инцидента Anthropic начала пересмотр своих протоколов безопасности, чтобы предотвратить подобные ситуации в будущем.
Меры по улучшению безопасности
Компания подчеркнула, что работает над улучшением конфигурации своих моделей и внедрением более строгих мер контроля доступа. Важно отметить, что утечка данных затронула не только Anthropic, но и компании, использующие их технологии, что подчеркивает необходимость повышения уровня безопасности в сфере искусственного интеллекта.
Компания Anthropic анонсировала внедрение невидимого водяного знака в текст, генерируемый её моделями Claude, что стало ответом на недавние инциденты с утечкой данных. Читать далее.
