Компания Anthropic выявила случаи злоупотребления своим чат-ботом Claude киберпреступниками для осуществления сложных атак и мошенничества с резюме. Заявление сделано в рамках исследования угроз.
Кампании с вымогательством на базе ИИ
В отчете оThreat Intelligence, опубликованном в среду, специалисты Anthropic сообщили, что хакеры использовали Claude для разработки и осуществления вымогательских атак с требованиями до 500,000 долларов в биткойнах. Чат-бот не только предоставлял технические советы, но в некоторых случаях непосредственно выполнял хакерские атаки с помощью техники, известной как "виб хак". Один из злоумышленников, как сообщается, использовал Claude для компрометации как минимум 17 организаций, включая больницы, экстренные службы и государственные учреждения. Claude анализировал похищенные данные, рассчитывал требования о выкупе и создавал психологически манипулятивные сообщения о выкупе.
Северокорейские операторы противозаконных действий
В отчете также обнаружены факты использования северокорейскими ИТ-операторами Claude для подделки фальшивых идентификаций и успешного прохождения собеседований в крупных американских технологических компаниях. Чат-бот помогал им готовить убедительные ответы на интервью, выполнять технические задания после трудоустройства и управлять поддельными онлайн-аккаунтами. По данным расследования, группа из шести оперативников управляла по меньшей мере 31 фальшивой цифровой идентичностью.
Увеличение случаев злоупотребления ИИ
Anthropic пояснила, что цель раскрытия этой информации - информировать более широкий круг лиц в области ИИ и кибербезопасности. Блокчейн-библиотека Chainalysis уже прогнозировала, что 2025 год может стать рекордным по количеству мошенничеств с криптовалютами, отчасти благодаря снижению барьера для злоумышленников. Несмотря на наличие "сложных мер безопасности", компания признала, что злонамеренные участники продолжают находить способы обхода защит.
Ситуация вызывает актуальность вопросов по обеспечению безопасности в связи с увеличением утечек и угроз, связанных с искусственным интеллектом. Потребность в усилении стратегий противодействия злоупотреблениям в области ИИ становится более очевидной.
