Pinterest, популярный визуальный поисковик, объявил о новых мерах по борьбе с низкокачественным контентом, созданным с помощью ИИ, что ставит под угрозу его основную ценность.
Почему Pinterest борется с AI слопом?
Проблема проста: на платформу поступает все больше низкокачественного, порой бессмысленного контента, созданного ИИ. Этот 'AI слоп' размывает оригинальный контент, который пользователи изначально искали на Pinterest. Увеличение жалоб пользователей подчеркивает трудности в различении настоящих Pins и подделок, что затрудняет поиск искреннего вдохновения.
Как Pinterest справляется с генеративным ИИ?
Pinterest реализует многогранный подход, чтобы предоставить пользователям больше контроля и прозрачности. Включены такие меры, как:
* **AI маркировка:** Изображения, обнаруженные как созданные или сильно модифицированные ИИ, будут получать ярлык 'AI модифицирован' в нижнем левом углу при просмотре вблизи. * **Методы детекции:** Pinterest будет анализировать метаданные изображений и использовать внутренние классификаторы для автоматического обнаружения контента ИИ. * **Апелляции создателей:** Pinterest предлагает создателям возможность оспаривать ошибочную маркировку их контента. * **Опция 'Смотреть меньше':** Планируется функция, позволяющая пользователям сигнализировать о желании видеть меньше контента, созданного ИИ, в определенных категориях.
Что это означает для модерации контента?
Действия Pinterest подчеркивают растущую необходимость в robust стратегиях модерации контента в эпоху ИИ. Платформы, основанные на контенте, созданном пользователями, должны найти способы поддерживать качество и аутентичность в условиях наплыва потенциально низкоэффективного контента от ИИ. Как отметил технический директор Pinterest Мэтт Мадригал, цель заключается в помощи пользователям в принятии обоснованных решений для улучшения их процесса поиска.
Введение Pinterest новых функций маркировки и фильтрации является важным шагом в борьбе с 'AI слопом'. Платформа реагирует на протесты пользователей и на угрозы для ценности оригинального контента, что указывает на необходимость эволюции стратегий модерации контента на крупных платформах.
