Аудит моделей искусственного интеллекта играет ключевую роль в повышении надежности технологий в различных секторах. Политика 'доверяй, но проверяй' может стать новым стандартом в аудите AI.
Аудит AI в криптовалюте
CMO компании Polyhedra, Самуэль Пиртон, подчеркивает необходимость применения подхода 'доверяй, но проверяй' в аудитах AI. Учитывая, что технологические достижения в области AI опережают текущие возможности аудита, этот подход направлен на решение проблем надежности в крипто и финансовых секторах.
Пиртон отмечает, что аудиторам трудно оценивать модели AI из-за их сложности. Его стратегия предлагает всесторонний обзор на всех этапах - подготовки обучающих данных, оценки и развертывания - для восстановления доверия к приложениям AI. Как заявил Пиртон, 'Аудит моделей AI может быть ненадежным, поскольку аудиторы должны независимо проверять стадии предобработки, обработки и послеобработки. Подход 'доверяй, но проверяй' улучшает надежность аудиторских процессов и помогает обществу восстановить доверие к AI.'
Влияние на заинтересованные стороны
Немедленные последствия могут включать потенциальное увеличение уверенности среди заинтересованных сторон в таких отраслях, как финансы. Улучшенные процессы аудита могут привести к более здоровому восприятию рынков платформ, основанных на AI, особенно в криптовалютной области.
Финансово такая стратегия может укрепить принятие AI в секторах, зависимых от точной валидации моделей. Политически это может побудить регуляторов рассмотреть новые руководящие принципы, что потенциально может стандартизировать практики аудита в области новых технологий.
Проблемы и перспективы
Тем не менее, остаются проблемы с внедрением этого подхода в текущие рамки. Эффективная реализация зависит от обучения аудиторов и обновления практик. Отраслевые эксперты предполагают, что могут возникнуть активные дискуссии вокруг регулирования, направленные на гармонизацию стандартов аудита с технологическими достижениями. Вопросы о практике уже возникали, поскольку такие компании, как BDO и Forvis Mazars, столкнулись с критикой по поводу своих аудиторских практик, что подчеркивает необходимость более жесткой структуры.
Внедрение подхода 'доверяй, но проверяй' в аудите AI может существенно изменить восприятие технологий в финансовом секторе и повысить общую надежность в данной области.
