Основатель Ethereum Виталик Бутерин выразил критику по поводу гиперавтономных моделей искусственного интеллекта. Он считает, что активное вовлечение человека в процесс разработки ИИ может привести к лучшим и более безопасным результатам.
Критика гиперавтономных моделей
Бутерин утверждает, что вместо ИИ систем, которые функционируют исключительно самостоятельно, более ценными являются модели с "открытыми весами", позволяющие пользователям манипулировать и направлять процесс. Он подчеркивает, что такие системы обеспечивают возможность пользователям контролировать весь процесс, а не работать как совершенно закрытая система.
Пользовательский контроль в разработке ИИ
По мнению Бутерина, системы, обеспеченные интерфейсами между мозгом и компьютером (BCI), смогут динамически адаптировать свои выходные данные, собирая мгновенную обратную связь от пользователя. Благодаря этому искусственный интеллект сможет иметь более гибкую и безопасную структуру, формируемую не только заранее установленными правилами, но и реальным взаимодействием с человеком.
Будущее ИИ и гибридные модели
Заявления Бутерина служат значительным предупреждением против последнего ускорения разработки полностью автономных систем в области искусственного интеллекта. Он argues, что гибридные модели, сосредоточенные на контроле со стороны человека, могут быть наиболее надежным подходом будущего как с этической, так и с технической точки зрения.
Выводы Бутерина могут вызвать интерес к пользовательским, прозрачным и гибким решениям в разработке ИИ. Эта концепция предлагает новую основу для обсуждений по безопасности ИИ.
