- Документация рисков ИИ
- Семь категорий рисков ИИ
- Использование базы данных
Исследователи из MIT и других организаций создали репозиторий рисков ИИ, представляющий собой обширную базу данных, содержащую документированные риски, связанные с системами ИИ.
Документация рисков ИИ
Репозиторий стремится помочь принимающим решения в различных институтах, таких как правительство, исследования, бизнес и промышленность, оценить возникающие риски, связанные с ИИ, несмотря на его трансформационные способности. Репозиторий включает информацию из 43 существующих таксономий, таких как рецензируемые статьи, препринты, доклады на конференциях и отчеты. Это позволяет облегчить понимание ситуаций и механизмов, через которые могут возникать риски ИИ, благодаря двухаспектной системе классификации.
Семь категорий рисков ИИ
Риски классифицированы на основе их причин, принимая во внимание сущность, ответственную за них (человек или ИИ), намерение (непреднамеренное или намеренное) и время (постразработка или предразработка). Кроме того, риски разделены на семь различных областей, включая дезинформацию и вредоносные действия, неправильное использование, дискриминацию и токсичность, приватность и безопасность.
Использование базы данных
Репозиторий открыт для публичного доступа и эксплуатации различными учреждениями для оценки и уменьшения рисков. Таким образом, организация, внедряющая систему найма на основе ИИ, может использовать репозиторий для выявления возможных рисков, связанных с дискриминацией и предвзятостью. Аналогично, фирма, использующая ИИ для модерации контента, может использовать раздел «дезинформация» для понимания потенциальных рисков, связанных с ИИ-генерируемым контентом. Согласно команде MIT, репозиторий поможет выявить возможные пробелы или дисбалансы в подходах организаций к управлению рисками.
Исследователи MIT планируют регулярно обновлять базу данных новыми рисками, последними находками и развивающимися трендами, чтобы она оставалась актуальной и полезной. Этот инструмент предназначен для того, чтобы стать важным ресурсом для бизнеса и научных исследований, осознающих важность управления рисками ИИ.
