Современные технологии позволяют бороться с ненавистнической речью и дипфейками на социальных платформах. Эксперты из Индии и других стран работают над проектами, направленными на улучшение алгоритмов распознавания таких материалов.
AI на страже социальных сетей
В условиях роста распространения ненавистнической речи и дипфейков в Индии, на базе Dhirubhai Ambani Institute of Information and Communication Technology (DAIICT) в Гандинагаре, штат Гуджарат, прошел форум «Forum for Information Retrieval Evaluation» (FIRE). На мероприятии обсуждались последние тренды в области машинного обучения и крупноплатформенных моделей (LLM). Профессор Томас Мандл из Университета Хильдесхайма принимал участие в разработке программ, направленных на выявление сложных паттернов ненавистнической речи, включая использование алфавитно-цифровых подмен и кодовых терминов.
Прорывные исследования
Профессор Прасенджит Маджумдер из DAIICT отметил, что осведомленность о возможностях AI и ML увеличивается, что требует их подготовки для будущих задач. Одним из текущих проектов института является перевод парламентских заседаний на индийские языки, такие как гуджарати, телугу, тамильский, бенгали и малаялам, что будет способствовать более широкому доступу к информации.
Законодательные инициативы
Согласно статье 19(1) (a) Конституции Индии, «все граждане имеют право на свободу слова и выражения». Однако, в связи с увеличением случаев злоупотреблений этим правом, Верховный суд Индии призвал Законодательную комиссию к дальнейшему изучению вопроса. В настоящее время обсуждаются предложения по внедрению юридических норм для борьбы с ненавистнической речью в стране.
С активным развитием технологий, использование AI в аналитике социальных медиа становится всё более значимым в борьбе с ненавистнической речью и дипфейками. Эти инициативы помогут уменьшить негативные последствия в реальной жизни и создать более безопасную среду для пользователя.
