В своем новом эссе генеральный директор компании Anthropic Дарио Амодеи поднимает важный вопрос о необходимости строгого регулирования искусственного интеллекта, и в публикации приводится следующая информация: он утверждает, что правительства должны срочно принять меры для обеспечения безопасности мощных ИИ-моделей.
Развитие технологий ИИ и регуляторные меры
Амадеи акцентирует внимание на том, что развитие технологий ИИ происходит с такой скоростью, что существующие регуляторные меры не успевают за ним. Он подчеркивает, что игнорирование этой проблемы может привести к серьезным последствиям для общества.
Предложенные меры для повышения безопасности
В качестве решения, он предлагает внедрение следующих мер:
- обязательное тестирование и аудит моделей ИИ
- возможность блокировки их развертывания, если они не соответствуют установленным стандартам безопасности
Эти меры, по мнению Амодеи, могут значительно повысить уровень безопасности и минимизировать потенциальные риски, связанные с использованием ИИ в различных сферах жизни.
Компания Anthropic анонсировала новую модель искусственного интеллекта Opus 48, которая значительно улучшила производительность по сравнению с предыдущей версией. В контексте обсуждения регуляции ИИ, подробнее о её характеристиках можно узнать в нашей предыдущей новости.
