Недавнее исследование стартапа Cathedral выявило уязвимости в бизнес-системах компании Anthropic, что вызывает серьезные опасения в сфере кибербезопасности. AI-агенты Cathedral смогли получить доступ к системам менее чем за 12 часов, что ставит под сомнение защитные меры крупных компаний. Отчёт выражает обеспокоенность по поводу того, насколько уязвимыми могут быть современные технологии в руках злоумышленников.
Доступ к системам Anthropic
Согласно информации от Cathedral, доступ к системам Anthropic был осуществлён не через их AI-ассистента Claude, а через стороннее программное обеспечение, используемое для администрирования и продаж. Это подчеркивает важность защиты не только собственных технологий, но и сторонних решений, которые могут быть уязвимыми.
Тестирование Anthropic
Компания Cathedral, основанная бывшими сотрудниками администрации Трампа, провела тестирование Anthropic в рамках программы, аналогичной баг-баунти. Anthropic подтвердила, что действия Cathedral были зафиксированы их системами мониторинга, и доступ был отключен в тот же день.
Опасения по поводу национальной безопасности
Тем не менее, инцидент вызывает серьезные опасения по поводу национальной безопасности. Если стартап, использующий AI-технологии, смог обнаружить такие уязвимости, это может означать, что и другие компании могут столкнуться с аналогичными угрозами в будущем.
Недавние уязвимости в системах Anthropic поднимают вопросы о безопасности технологий, что перекликается с опасениями Cato Institute о возможных последствиях приостановки развития ИИ. Читать далее.
