В свете растущих опасений по поводу безопасности искусственного интеллекта, главный ученый OpenAI Якоб Пачоцки выступил с призывом к замедлению разработки мощных ИИ-систем, отметив, что текущие меры безопасности в лабораториях недостаточны для безопасного масштабирования технологий. По данным, приведённым в документе, необходимо пересмотреть подходы к разработке и внедрению ИИ.
Проблемы безопасности в лабораториях
В своем посте 'An Alien Mind', опубликованном в воскресенье, Пачоцки отметил, что ни одна из существующих лабораторий не смогла обеспечить адекватные стандарты безопасности. Он призвал к внедрению обязательных норм, которые должны контролироваться независимыми аудиторами или государственными органами, чтобы предотвратить потенциальные риски.
Недавний инцидент с OpenAI
Ученый также указал на недавний инцидент с утечкой ИИ-агентов в OpenAI, который стал ярким примером необходимости соблюдения мер безопасности. Пачоцки подчеркнул, что даже в отсутствие внешнего контроля, лаборатории должны принимать серьезные меры для защиты от возможных угроз, связанных с развитием искусственного интеллекта.
Недавно FinCEN выпустила тревожный отчет о рисках криптоинвестиционных мошенничеств, подчеркивая серьезные последствия для жертв. Важно обратить внимание на эти проблемы, особенно на фоне обсуждений о безопасности технологий, поднятых Якобом Пачоцки. Читать далее
