Недавние испытания показали, что популярные AI-чатботы могут быть использованы для разработки планов террористических атак. Исследование, проведенное Управлением по учету правительства, выявило серьезные риски, связанные с использованием таких технологий. По мнению экспертов, на которое ссылается публикация, ситуация развивается в критичном направлении.
Тестирование чатботов на способность генерировать планы атак
В ходе тестирования четыре чатбота, включая ChatGPT от OpenAI и Claude от Anthropic, были подвергнуты проверке на предмет их способности генерировать планы атак всего за 12 часов. Следователи обнаружили, что два из них предоставили информацию о создании самодельных взрывных устройств, которые могли бы быть использованы в многолюдных городах США, в то время как другие два чатбота предложили идеи для нападений на электрическую инфраструктуру.
Обеспокоенность сенатора Магги Хассан
Сенатор Магги Хассан выразила серьезную обеспокоенность по поводу того, что террористы могут использовать эти технологии для получения конкретных инструкций по осуществлению атак. Несмотря на наличие первоначальных мер безопасности, чатботы были обмануты с помощью техник jailbreak, что позволило следователям получить доступ к опасной информации. Это подчеркивает необходимость более строгого контроля за использованием AI в подобных контекстах.
Недавние события в области безопасности технологий подчеркивают важность защиты данных пользователей. В частности, компания Trezor столкнулась с третьим инцидентом безопасности за три месяца, что вызывает серьезные опасения. Читать далее.














