Компания Anthropic приняла решение ограничить доступ к своей модели Claude Mythos, которая продемонстрировала способность выявлять уязвимости в популярных операционных системах и браузерах. Это решение стало ответом на растущие опасения по поводу безопасности искусственного интеллекта и его потенциальных рисков. По данным, приведённым в документе, такие меры необходимы для предотвращения возможных злоупотреблений.
Внимание к безопасности AI
В условиях увеличения внимания к вопросам безопасности AI, Anthropic подчеркивает важность ответственного подхода к разработке и внедрению таких технологий.
Стратегия безопасности Anthropic
Ограничение доступа к Claude Mythos является частью стратегии компании по обеспечению безопасного использования своих разработок.
Компания Anthropic анонсировала новую модель Claude Mythos Preview, которая, несмотря на свою мощность, будет доступна лишь ограниченному числу организаций. Это решение контрастирует с недавним ограничением доступа к предыдущей версии модели, о котором можно узнать подробнее.
