В эпоху быстрого развития технологий нейросетей и искусственного интеллекта, мы сталкиваемся с новыми вызовами и угрозами, одной из которых является возрастающее число случаев мошенничества с применением нейросетей. Этот подвид киберпреступлений выходит за рамки традиционных методов обмана, используя мощные алгоритмы и глубокие нейронные сети для достижения своих злонамеренных целей. В данной статье мы рассмотрим масштабы проблемы мошенничества, сфокусированного на использовании нейросетей, выявим типичные сценарии и методы, а также обсудим возможные меры предосторожности и защиты от этого нового вида киберугрозы.

Злоумышленники все чаще прибегают к использованию алгоритмов машинного обучения и нейронных сетей для доступа к личной информации граждан с целью мошенничества. Андрей Наташкин, основатель и CEO компании Mirey Robotics, специалист в области искусственного интеллекта, рассказывает о новых методах мошенничества, использующих нейросети, и дает советы по обеспечению безопасности.

Методы мошенничества с применением искусственного интеллекта

В арсенале киберпреступников имеется множество способов использования нейросетей для мошенничества. Это включает в себя подделку документов, создание голосовых дипфейков, организацию благотворительных сборов под ложным предлогом, шантаж с поддельными видео и фотографиями, а также фишинговые атаки для сбора личных данных.

Киберпреступники вышли на новый уровень мастерства, освоив искусство подделки голосовых сообщений в популярном мессенджере Telegram с применением нейросетей. Их стратегия включает в себя похищение аккаунтов пользователей и создание поддельных голосовых сообщений на основе украденных данных. Эти поддельные записи затем используются для вымогательства денег, отправляя созданные сообщения в чаты.

Так же традиционные методы верификации личности, такие как проверка по фотографии, утратили свою эффективность. Недавние отчеты подтверждают, что сообщество на Reddit смогло создать искусственного персонажа, удерживающего лист бумаги с необходимым текстом (название сообщества и ник), а также поддельное удостоверение личности. Теперь подтверждение личности требует видео, но и это решение временное.  Нейросети отлично справляются с созданием поддельных документов. Они способны быстро генерировать фальшивые паспорта, водительские удостоверения и выписки из банка.

Более того, нейросети могут скопировать стиль письма конкретного человека, проанализировав его социальные медиа. Это позволяет создавать поддельные сообщения, в том числе и мошеннические письма родственникам с просьбой о срочной финансовой помощи. Андрей Наташкин объясняет, что с использованием технологии синтеза речи злоумышленники могут клонировать ваш голос, создавая аудиозаписи с ваших фраз. 

Еще одним примером является кража 35 миллионов долларов у управляющего банка в Гонконге. Злоумышленники представились клиентами и подтвердили транзакцию через электронное письмо, подделанное с использованием нейросетей. Управляющий банка, подтвердивший запрошенную транзакцию, стал жертвой хитроумного мошенничества, где как телефонный звонок, так и электронное письмо оказались подделанными и не имели отношения к реальному клиенту. Это лишь один из многочисленных примеров использования нейросетей в киберпреступлениях, о чем предупреждает эксперт.

Специалист отмечает, что нейросети приобретают всемирную популярность, и это не обходит вниманием преступников. Привлекательностью для них служит не только простота использования современных нейросетей, позволяющая обходить необходимость в высококвалифицированных программистах, но и их стабильно высокие результаты, исключающие человеческие ошибки. Высокая скорость работы является еще одним фактором, делающим нейросети привлекательными для мошенников.

Эксперт подчеркивает, что нейросети, такие как ChatGPT, способны заменить целые команды программистов. Он отмечает также их вариативность, предоставляющую возможность использовать различные схемы мошенничества и находить наиболее выгодные варианты.

Шантаж и сбор средств на благотворительность остаются популярными методами мошенничества. Нейросети не только не изменили эти схемы, но и улучшили качество контента, что напрямую влияет на уровень доверия аудитории. Злоумышленники активно используют возможность создавать фейковые интимные изображения на основе реальных фотографий из социальных сетей, повышая уровень шантажа.

Эксперт приводит примеры использования нейросетей, таких как FraudGPT и WormGPT, в целях взлома банковских аккаунтов. Он предупреждает, что эти инструменты становятся все более доступными для начинающих хакеров, и выражает уверенность в том, что в будущем нейросети будут становиться более умными и совершенствоваться в сфере киберпреступлений.

Фишинговые атаки с использованием вредоносных писем также остаются распространенным видом мошенничества. Эксперименты сравнения навыков чат-бота ChatGPT и реальных хакеров в создании фишинговых писем показали, что искусственный интеллект способен быстро составить подобное письмо, но его эмоциональный подход требует совершенствования. Однако специалисты считают, что нейросети вскоре будут интегрироваться более тесно в создание фишинговых писем с учетом контекста, повышая их эмоциональную убедительность.

Основатель Mirey Robotics предостерегает от рисков мошенничества с использованием нейросетей и предлагает несколько рекомендаций для снижения риска. К ним относятся защита аккаунтов через двухфакторную идентификацию, обеспечение безопасности профилей в социальных сетях и использование средств защиты от нежелательных звонков. Он также призывает всегда проверять информацию в нескольких источниках, чтобы избежать возможных попыток мошенничества.