В среду OpenAI опубликовала отчет, в котором раскрываются детали использования ChatGPT для продвижения фальшивого академического института, связанного с Россией. По данным, приведённым в документе, данная ситуация подчеркивает риски, связанные с использованием искусственного интеллекта в дезинформационных кампаниях.
Создание фальшивого института
Согласно отчету, группа, использующая русскоязычные подсказки, создала аккаунты в социальных сетях, чтобы продвигать Международный институт Бёрка, который выдавал себя за экспертную организацию из Израиля. Для сокрытия своего местоположения они применяли виртуальные частные сети (VPN), что позволило им обойти ограничения доступа к сервису ChatGPT.
Меры OpenAI
OpenAI приняла меры, заблокировав группу аккаунтов, которые использовались для генерации постов и комментариев, в основном на английском языке. В ходе расследования было установлено, что:
- 34 из 36 статей на сайте института были скопированы
- некоторые из них были приписаны академикам, которые не имели к ним никакого отношения
Важность проверки источников
Это подчеркивает важность проверки источников информации в эпоху цифровых технологий.
Недавно стало известно о сотрудничестве между Mistral и HUMAIN для создания суверенной инфраструктуры ИИ в Саудовской Аравии, что подчеркивает важность проверки источников информации в контексте дезинформационных кампаний. Читать далее
