Расследование Генерального прокурора Техаса Кена Пэкстона содержит серьезные обвинения в адрес Meta AI Studio и Character.AI по вопросам обмана пользователей, особенно детей.
Необходимость регулирования AI-чатботов
Офис Генерального прокурора Техаса инициировал серьезное расследование в отношении Meta AI Studio и Character.AI из-за возможных обманных практик. В пресс-релизе подчеркивается, что эти платформы могут вводить в заблуждение, представляя себя как инструменты психического здоровья, не обладая при этом необходимыми медицинскими правами и надзором. Пэкстон указал на необходимость защиты детей от эксплуатирующих технологий. Он заявил: "Представляя себя как источники эмоциональной поддержки, платформы AI могут вводить в заблуждение уязвимых пользователей, особенно детей, заставляя их верить, что они получают легитимную психотерапию."
Контroversия Meta AI: флиртующие чатботы
Расследование в отношении Meta AI Studio началось на фоне растущей критики. В отдельном расследовании, инициированном сенатором Джошем Хоули, обсуждались случаи, когда чатботы Meta взаимодействовали с детьми неподобающим образом, включая флирт. Журналистам Meta представил свое заявление, в котором сообщается, что они обозначают AI-чаты, акцентируя внимание на том, что их ответы созданы не людьми. Однако критики подчеркивают, что дети могут не понять или игнорировать такие отказы, что подчеркивает необходимость серьезных мер защиты.
Расследование Character.AI: популярность среди молодежи
Character.AI также оказывается под следствием. Платформа, известная обширным выбором созданных пользователями чатботов, особой популярностью пользуется среди молодежи. Например, была создана пользовательская версия чатбота "Психолог", которая приобрела значительный спрос среди молодого народа. Хоть обе компании и заявляют, что их сервисы не предназначены для детей младше 13 лет, реальность показывает, что молодые пользователи свободно получают доступ к этим сервисам.
Расследование AG Техаса в отношении Meta AI Studio и Character.AI подчеркивает важность обсуждения этики AI, безопасности пользователей и корпоративной ответственности. Обвинения в обмане, неподобающих взаимодействиях с детьми и нарушении конфиденциальности данных ставят под сомнение существующие регуляторные рамки и практики в индустрии.
