Недавний отчет Common Sense Media указал на значительный риск, связанный с продуктами AI Google Gemini для детей и подростков. В этой статье рассматриваются ключевые выводы и их последствия.
Результаты оценки Google Gemini
Common Sense Media, некоммерческая организация, заострила внимание на рисках, связанных с продуктами AI Google Gemini. Основным выводом отчет является то, что детские версии Gemini фактически представляют собой взрослые модели с минимальными учетом безопасности. Ключевые результаты включают:
* **Отсутствие основ безопасности:** Продукты для детей базируются на взрослых моделях с фильтрами, а не разработаны с учетом психологии и благополучия детей. * **Вызывающее контентирование:** Несмотря на фильтры, Gemini может все еще предоставлять 'неприемлемый и небезопасный' контент, включая материалы, связанные с психическим здоровьем. * **Универсальный подход:** Продукты для детей и подростков не учитывают разные стадии развития, что приводит к общему 'высокому риску'.
Критическая важность AI безопасности для детей
Неадекватная безопасность AI для детей может привести к серьезным последствиям. Сообщается о трагических случаях, когда AI, такие как ChatGPT, предположительно играли роль в самоубийствах подростков. Robbie Torney из Common Sense Media отметил: 'AI-платформа для детей должна учитывать их возрастные особенности, а не быть модифицированной версией для взрослых.' Эти события подчеркивают необходимость комплексного подхода к безопасности AI.
Ответ Google и тенденции в области безопасности AI
Google ответила на отчет, отметив, что активно работают над улучшением своих функций безопасности, однако некоторые аспекты работы Gemini не соответствуют ожиданиям. Компания внедрила новые меры защиты, но также указала на недостаточную прозрачность в тестировании. Common Sense Media сравнила риски различных AI-платформ, отметил, что Gemini получил 'высокий риск', в то время как другие сервисы были оценены как 'неприемлемые' или 'умеренный риск'.
Отчет Common Sense Media подчеркивает необходимость серьезных изменений в дизайне и разработке AI продуктов для детей. Он призывает к разработке более безопасных и прозрачных систем, которые учитывают уникальные потребности молодежи.
