В новой книге 'Если кто-то построит это, все умрут' Элиезер Юдковский и Нейт Соарес поднимают тревожные вопросы о будущем человечества в эпоху искусственного интеллекта. Как следует из официальной информации, авторы утверждают, что создание сверхчеловеческого интеллекта может привести к катастрофическим последствиям для нашей цивилизации.
Современные системы AI: 'выращивание' через данные
Юдковский и Соарес акцентируют внимание на том, что современные системы ИИ не проектируются в традиционном смысле, а 'выращиваются' через обучение на огромных объемах данных. Это делает их поведение непредсказуемым и потенциально опасным. Авторы называют текущую гонку среди технологических гигантов и правительств по созданию все более мощных моделей 'гонкой самоубийц', подчеркивая риски, связанные с этой конкуренцией.
Разделение мнений в сообществе AI
Книга уже вызвала раскол в сообществе ИИ: одни эксперты призывают остановить прогресс, опасаясь его последствий, в то время как другие уверены, что достижения в области искусственного интеллекта могут привести к значительным прорывам в медицине и науке. Критики, в свою очередь, предупреждают, что сосредоточение на угрозе вымирания отвлекает внимание от уже существующих проблем, таких как:
- предвзятость алгоритмов
- распространение дезинформации
На фоне растущего протеста Гвидо Рейхштадтера против развития искусственного интеллекта, важно также обратить внимание на проблемы, с которыми сталкиваются участники, касающиеся регистрации в NYSC и проверки результатов экзаменов NECO. Эти трудности подчеркивают необходимость строгого контроля за ИИ-технологиями, что было ранее отмечено в новости, где обсуждаются распространенные ошибки при проверке результатов экзаменов, поднимая вопросы о надежности технологий в здравоохранении.
