На днях OpenAI объявила о выпуске новой линейки моделей искусственного интеллекта, известной как o3, которые, по заверениям компании, превосходят предыдущие модели, включая o1, благодаря улучшенному управлению вычислительными ресурсами и новой парадигме безопасности.
Новые модели AI от OpenAI
OpenAI представила новую семью моделей AI, получившую название o3. Эти модели отличаются более высокой производительностью по сравнению с предыдущими версиями, включая модели o1. Компания заявляет, что улучшения связаны с оптимизированным управлением вычислительными ресурсами и внедрением новой модели безопасности. Публикуемые исследования демонстрируют, как 'deliberative alignment' помогает моделям AI соответствовать заявленным значениям, задаваемым разработчиками. Такой подход позволил улучшить согласованность моделей o1 и o3 с политиками безопасности OpenAI.
Как работает deliberative alignment
В основе процесса deliberative alignment лежит способность моделей пересматривать свои решения в процессе размышлений. Модели AI получают вопросы и разбивают их на этапы, чтобы более эффективно выработать ответ. Например, при получении потенциально опасного запроса, такого как способ создания поддельной инвалидной таблички, модель обращается к политикам безопасности OpenAI и отказывается выполнять такой запрос. Это нововведение позволяет оценивать каждый отдельный контекст и избегать чрезмерного ограничения ответов.
Штраф OpenAI за нарушения конфиденциальности в Италии
В другом развитии событий Гаранте, агентство по защите данных в Италии, оштрафовало OpenAI за нарушение конфиденциальности на сумму 15 миллионов евро. Расследование показало, что OpenAI обрабатывала персональные данные пользователей без законного обоснования и не имела адекватной системы проверки возраста, что могло бы предоставить доступ к ненадлежащему содержимому детям младше 13 лет. OpenAI планирует обжаловать решение, считая штраф слишком большим относительно доходов компании в Италии за этот период.
Таким образом, OpenAI продолжает разрабатывать модели AI, активно улучшая их безопасность и производительность, в то время как компания сталкивается с регуляторными вызовами в Европе. Внедрение deliberative alignment стало значительным шагом на пути к более безопасным и ответственным AI-технологиям.
