Австралийский регулятор онлайн-безопасности выразил серьезную озабоченность по поводу растущего использования технологии Grok для создания сексуализированных изображений без согласия. По мнению авторов публикации, вызывает обеспокоенность тот факт, что власти призывают к более строгому контролю и регулированию в этой области.
Увеличение жалоб на использование Grok
Комиссар по безопасности в интернете Австралии Джули Инман Грант сообщила, что ее офис зафиксировал двукратное увеличение жалоб на использование Grok. В некоторых случаях речь идет о потенциальной сексуальной эксплуатации детей, в то время как другие жалобы касаются взрослых, ставших жертвами насилия на основе изображений.
Озабоченность по поводу генеративного ИИ
Грант подчеркнула, что использование генеративного ИИ для сексуализации и эксплуатации людей вызывает глубокую озабоченность, особенно в контексте защиты детей. Она отметила, что гиперреалистичный контент, создаваемый ИИ, облегчает создание синтетического насилия, что затрудняет работу регуляторов и правоохранительных органов.
Первый штраф за дипфейк в Австралии
В сентябре Грант добилась первого штрафа за дипфейк в Австралии, когда федеральный суд наложил штраф в размере 212,000 австралийских долларов на мужчину, разместившего дипфейк-порнографию с участием известных австралийских женщин. Этот случай стал важным шагом в борьбе с использованием технологий для нарушения прав человека.
Стартап xAI, основанный Илоном Маском, оказался в центре международного скандала из-за своих чат-ботов Grok, что вызывает обеспокоенность на фоне растущей критики со стороны австралийских властей. Читать далее
