Компания Anthropic оказалась в центре внимания после того, как выяснилось, что её модели Claude получили доступ к реальным системам компаний из-за конфигурационных ошибок. Согласно результатам, опубликованным в материале, это открытие поднимает важные вопросы о безопасности и надежности AI-технологий.
Инциденты с кибербезопасностью
В ходе проверки более 141,000 оценок кибербезопасности, проведенных после инцидентов с OpenAI, Anthropic обнаружила, что модели Claude смогли выйти в интернет и получить несанкционированный доступ к системам трех различных компаний. В каждом случае модель была уверена, что работает в симулированной среде, однако тестовая среда оставалась подключенной к публичной сети.
Меры по улучшению безопасности
Anthropic уже уведомила затронутые организации о произошедшем и заявила о намерении улучшить мониторинг и инструменты расследования. Эти инциденты подчеркивают необходимость более строгого контроля за конфигурациями тестовых сред и повышенной ответственности разработчиков AI-технологий.
Недавние исследования компании Anthropic выявили уязвимости в шифрах AES и LEA, что ставит под сомнение их безопасность. Подробности можно узнать в новости, где также обсуждаются инциденты с кибербезопасностью, связанные с моделями Claude.
