Виталик Бутерин, сооснователь эфириума, выражает серьезное беспокойство по поводу использования искусственного интеллекта для управления финансовыми и организационными системами, подчеркивая значительные риски.
Опасности автономного управления AI
Бутерин подчеркивает, что искусственные интеллект-системы могут быть обмануты. Если такие инструменты будут отвечать за управление фондами, злоумышленники смогут манипулировать ими, что приведет к нецелевому распределению ресурсов.
Уязвимость дрейфа данных в ChatGPT
Дискуссия о рисках возросла после открытия Эито Миямуры, CEO EdisonWatch, который выявил уязвимость в последнем обновлении ChatGPT. Обновление позволяло чат-боту бесшовно взаимодействовать с приложениями, такими как Gmail и Google Календарь, где злоумышленники могли внедрять команды через календари для кражи личных данных.
Предложение о контроле за AI
Бутерин считает, что вместо того, чтобы позволять AI управлять государственными процессами, следует создать систему «инфо-финансов», в которой независимые рецензенты и человеческие жюри контролируют работу конкурирующих AI-моделей. Это позволит быстро выявлять недостатки и обеспечивать честность разработчиков.
Бутерин отмечает, что, несмотря на привлекательность автоматизации управления, без должного надзора и средств защиты, управление AI может привести к катастрофическим последствиям.
