Топ-менеджеры ведущих компаний в области искусственного интеллекта, таких как Anthropic и OpenAI, начали подготовку к возможным катастрофическим инцидентам, связанным с ИИ, и Источник сообщает, что это решение вызвано растущими опасениями по поводу потенциальных кибератак, которые могут привести к серьезным последствиям для финансовых систем и доступа к интернету.
Предупреждение о вероятном инциденте
Согласно отчету Axios, внутренние источники компаний предупреждают о вероятности серьезного инцидента в течение ближайших шести-двенадцати месяцев. Такой инцидент может вызвать общественное недовольство и усилить критику технологий ИИ, что, в свою очередь, приведет к необходимости разработки новых законов и правил для их регулирования.
Подготовка компаний к возможным сценариям
OpenAI активно проводит учения, направленные на подготовку к различным сценариям. Однако Anthropic отказалась комментировать свои действия в этом направлении. Ожидается, что после первого инцидента законодатели начнут разрабатывать меры, направленные на защиту общества от возможных угроз, связанных с искусственным интеллектом.
Недавно Europol выпустил отчеты, подчеркивающие угрозы квантовых компьютеров для криптоиндустрии, что контрастирует с подготовкой компаний к инцидентам, связанным с ИИ. Читать далее.
