Недавнее исследование выявило серьезные недостатки в принятии решений роботами, использующими большие языковые модели. Из анализа следует, что ситуация вызывает определённую тревогу.
Инцидент в лаборатории
В одном из сценариев эксперимента студент оказался в горящей лаборатории, и роботы, управляемые языковыми моделями, рекомендовали ему спасать документы вместо того, чтобы направить к аварийному выходу. Этот инцидент подчеркивает, что современные языковые модели не способны адекватно реагировать в экстренных ситуациях, что ставит под сомнение их использование в таких областях, как автономное вождение и экстренная помощь.
Необходимость доработки алгоритмов
Исследование акцентирует внимание на необходимости доработки алгоритмов и моделей, чтобы они могли принимать более обоснованные решения в условиях стресса и неопределенности. Эксперты подчеркивают, что для обеспечения безопасности пользователей необходимо учитывать эти аспекты при разработке и внедрении технологий, основанных на искусственном интеллекте.
12 января 2026 года Grayscale обновила свой список цифровых активов, добавив новые позиции, что подчеркивает интерес институциональных инвесторов к криптовалютам. Это обновление происходит на фоне тревожных выводов о недостатках в принятии решений роботами, о которых сообщалось ранее. Читать далее
