Компания Anthropic, известная своим чат-ботом Claude, объявила о внедрении нового набора мер, направленных на защиту целостности выборов. Эти инициативы подчеркивают важность контроля за использованием технологий искусственного интеллекта в преддверии выборов, о чем в публикации приводится следующая информация.
Новые меры по контролю за ИИ
В числе новых мер —
- автоматизированные системы обнаружения манипуляций
- стресс-тестирование на устойчивость к попыткам вмешательства
- сотрудничество с некоммерческой организацией, занимающейся информированием о голосовании
Политика использования Claude
Политика использования Anthropic строго запрещает применение Claude для проведения обманчивых политических кампаний и распространения ложной информации о выборах. В рамках соблюдения этих правил компания провела тестирование своих моделей, которые показали высокую степень соответствия установленным требованиям.
Мониторинг систем в выборный период
Кроме того, Anthropic планирует продолжать мониторинг своих систем на протяжении всего выборного цикла, что должно помочь предотвратить возможные злоупотребления и обеспечить честность выборного процесса.
Компания Anthropic недавно достигла рекордной оценки в 1 триллион долларов на вторичных рынках, обогнав OpenAI. Это событие подчеркивает растущий интерес инвесторов к Anthropic, что контрастирует с её новыми мерами по контролю за ИИ в преддверии выборов. подробнее
