Недавнее исследование Института безопасности ИИ Великобритании выявило тревожные возможности новой модели ИИ под названием Claude Mythos Preview. Оценка, проведенная экспертами, показала, что данная модель способна к автономному выполнению сложных кибератак, что вызывает серьезные опасения в сфере безопасности, и отчет выражает обеспокоенность по поводу того, что такие технологии могут быть использованы в злонамеренных целях.
Успех Mythos Preview в оценке ИИ
Результаты оценки, опубликованные в понедельник, продемонстрировали, что Mythos Preview успешно справляется с задачами на уровне экспертов, что ранее не удавалось ни одной другой модели ИИ. Это открытие подчеркивает потенциальные риски, связанные с использованием таких технологий в киберпреступности.
Угрозы для криптоинфраструктуры
Особую тревогу вызывает способность модели находить и эксплуатировать уязвимости в системах, что может представлять серьезную угрозу для криптоинфраструктуры. Эксперты предупреждают, что такие технологии могут быть использованы злоумышленниками для проведения атак на финансовые и информационные системы. Это требует повышенного внимания со стороны организаций, работающих в сфере криптовалют и блокчейна.
Компания Anthropic ограничила доступ к модели Claude Mythos, которая продемонстрировала способность выявлять уязвимости в системах, что стало ответом на опасения по поводу безопасности ИИ. Узнайте подробнее о решении компании в нашей статье подробнее.
