На Международной конференции по машинному обучению, прошедшей в июне 2023 года, группа исследователей представила тревожные результаты своего исследования, касающегося манипуляций с большими языковыми моделями. В работе, в которой участвовали Чарльз Йе, Жасмин Цуй и Дилан Хэдфилд-Менелл, были продемонстрированы способы генерации опасного контента, включая инструкции по синтезу наркотиков, что Источник отмечает факт того, что такие технологии могут быть использованы в неблагих целях.
Уязвимости и общественная безопасность
Авторы исследования подчеркивают, что подобные уязвимости могут быть использованы злоумышленниками для создания и распространения опасного контента, что ставит под угрозу общественную безопасность.
Призыв к мерам контроля
Они призывают к более строгим мерам контроля и улучшению алгоритмов, чтобы предотвратить возможные злоупотребления в будущем.
На фоне тревожных результатов исследования манипуляций с языковыми моделями, китайская компания Meituan представила свою новую модель LongCat20, обладающую 16 триллионами параметров. Подробнее.
