По прошествии года существенной озабоченности потенциальными рисками, создаваемыми суперинтеллектуальным искусственным интеллектом (ИИ), Журнал в настоящее время присутствует на конференции "Полезное ИИ" в Панаме, чтобы исследовать другую перспективу. На мероприятии присутствует разнообразная группа лиц, включая трансгуманистов, энтузиастов криптовалют, писателей научной фантастики, таких как Дэвид Брин, футурологов и ученых.
На конференции, организованной компанией SingularityNET, крупным игроком в предполагаемом Альянсе Искусственного Суперинтеллекта, акцент сосредоточен на понимании позитивных результатов, которые могут возникнуть при успешном развитии искусственного общего интеллекта (ИОИ) с возможностями на уровне человеческого. Это поднимает важный вопрос о том, как достичь этого желаемого будущего без катастрофического сценария, когда ИОИ становится коварным и создает угрозу для человечества.
Футуролог Хосе Луис Кордейро, автор книги "Смерть смерти", делится проницательными словами Артура К. Кларка, подчеркивая влияние нашего мировоззрения на формирование будущих возможностей. Сообщение Кларка подчеркивает важность предвидения позитивного будущего для работы над ним и достижения через коллективные усилия и решимость.
Полезный ИИ: поиск искусственного общего интеллекта
У людей есть естественная тенденция уделять больше внимания потенциальным угрозам существования, создаваемым ИОИ, чем его потенциальным пользам. Эта инстинкция укоренилась в эволюции, где чрезмерная осторожность в отношении потенциальных опасностей была критичной для выживания.
Несмотря на значительные опасения относительно возможного вреда, исследования показали, что вероятность катастрофического исхода относительно низка, варьируя от 5% до 10% согласно опросам исследователей по ИИ. Таким образом, несмотря на обоснованные опасения, шансы, как правило, на стороне человечества.
Открывая мероприятие, основатель SingularityNET доктор Бен Герцель признал концепцию оборонительного ускоренчества, предложенную Виталиком Бутериным из Ethereum. Этот подход нацелен на достижение баланса между ускорением развития ИИ и осторожностью по отношению к потенциальным рискам, связанным с ИОИ. Герцель выступает за открытое предоставление технологии ИИ и децентрализацию управления и аппаратуры в качестве решения для смягчения опасностей, связанных с развитием ИОИ.
Что представляет собой Альянс искусственного суперинтеллекта?
SingularityNET недавно объявил о сотрудничестве с FetchAI и Ocean Protocol для создания Альянса искусственного суперинтеллекта (ASI), децентрализованной структуры, сосредоточенной на исследованиях и разработках в области ИИ. ASI нацелен на противовес доминированию Big Tech в разработке ИИ и ускорении инноваций в области ИОИ на базе блокчейна путем создания открытой архитектуры ИИ.
Предложенное объединение ASI включает объединение существующих токенов от SingularityNET, FetchAI и Ocean Protocol в новый токен под названием ASI с потенциальной рыночной капитализацией $7.5 миллиарда, при наличии одобрения. Альянс намерен функционировать как отдельные структуры под руководством Герцеля и Шейха, акцентируя децентрализованное управление и инфраструктуру в разработке ИИ.
Каковы преимущества ИОИ?
Потенциальные преимущества ИОИ огромны, с технологией, готовой к революции в различных областях, таких как наука, здравоохранение и охрана окружающей среды. Способность ИОИ анализировать обширные наборы данных уже привела к значительным прорывам в медицинских исследованиях, включая открытие новых антибиотиков с использованием моделей ИИ.
Более того, ИОИ имеет потенциал предоставлять предупреждения о пандемиях, природных катастрофах и экологических кризисах, в конечном итоге повышая способность человечества в решении сложных проблем. В то время как опасения относительно потери рабочих мест из-за автоматизации обоснованы, исторические данные показывают, что автоматизация не оказала существенного воздействия на общее занятость и заработную плату в долгосрочной перспективе.
ИОИ мог бы принимать лучшие решения, чем мы: Генеральный директор SingularityNET Джанет Адамс
Генеральный директор SingularityNET Джанет Адамс представляет будущее, в котором ИОИ мог бы принимать этически обоснованные решения лучше, чем люди, свободные от эмоций и предвзятости. Она подчеркивает потенциал ИОИ в решении глобальных проблем, таких как голод, интеллектуально распределяя ресурсы на основе широких общественных потребностей.
Адамс акцентирует важность тренировки моделей ИОИ на разнообразных данных, представляющих весь мировое население, чтобы обеспечить этически обоснованные принятие решений, что приносит пользу всему человечеству.
Безопасность ИИ и этика: анализ проблем
Хотя децентрализованное управление рассматривается как решение для смягчения рисков, связанных с развитием ИОИ, остаются трудности в обеспечении эффективного управления и этики в системах ИИ. Опасения о централизованном контроле ИОИ со стороны технологических гигантов подчеркивают необходимость прозрачных и всеохватывающих моделей управления, в которых приоритет отдается этическому принятию решений и общественным преимуществам.
Децентрализованный ИИ: открытие дверей для развития открытого исходного кода
Децентрализованные платформы ИИ, такие как HyperCycle blockchain, предлагают сеть для взаимодействия и транзакций компонентов ИИ, предвосхищая совместное развитие ИОИ. Проекты, такие как OpenCog Hyperon, нацелены на объединение различных парадигм ИИ и облегчение коллаборации с открытым исходным кодом для ускорения развития ИОИ и обеспечения масштабируемости.
Управление ИИ: роль систем голосования
Децентрализация одна по себе не гарантирует положительных результатов в развитии ИОИ, как это видно в случаях, когда децентрализованными системами страдают от политических конфликтов и борьбы за власть. Роль токенового управления в проектах ИИ все еще эволюционирует, с трудностями включения и эффективных процессах принятия решений.
Обеспечение справедливого и прозрачного управления ИИ требует инновационных подходов, таких как взвешенные системы голосования, придающие приоритет участию в проекте и содействующие культуре совместного принятия решений в интересах всех заинтересованных сторон.
В общем, стремление к созданию "хорошего" ИОИ, приносящего пользу человечеству, требует многообразного подхода, включая этические соображения, децентрализованное управление и коллаборативные инновации для обеспечения будущего, где ИОИ улучшает благополучие общества в целом.
