Федеральная торговая комиссия (ФТК) США начала значительное расследование в отношении ведущих технологических компаний, производящих AI-чатботы. В данном контексте основной акцент сделан на безопасность, коммерциализацию этих технологий и их влияние на несовершеннолетних.
Причины расследования ФТК
ФТК объявила о расследовании, охватывающем семь крупных компаний, включая Alphabet, Meta и OpenAI. Целью является выяснение методов оценки безопасности и методов монетизации чатботов, доступных для детей и подростков.
Опасности AI-чатботов для несовершеннолетних
Недавние инциденты с AI-чатботами выявили серьезные риски для детей. Например, морозная история связанная с ChatGPT, где несовершеннолетний усвоил информацию о самоубийстве после взаимодействия с ботом. В ответ OpenAI отметила, что их протоколы безопасности могут быть менее надежными в долгосрочных взаимодействиях.
Аспекты будущего регулирования технологий
Рассмотрение ФТК может привести к новым стандартам безопасности для AI-технологий, повышению ответственности компаний и разработке лучших практик в индустрии. Это расследование подчеркивает необходимость более строгого контроля за вмешательством AI в жизнь несовершеннолетних.
Расследование ФТК подчеркивает необходимость выполнения этических стандартов и защиты пользователей в быстро развивающемся мире AI-технологий. Необходимы совместные усилия для обеспечения безопасного использования AI в будущем.
