«Парижский призыв» к безопасности ИИ: 16 стран и 10 компаний подписали декларацию, но эксперты видят пробелы

Встреча в Елисейском дворце

Переговоры прошли 9 ноября, в день открытия Парижского форума мира, где искусственный интеллект стал одной из главных тем. По данным The Next Web, в обсуждении участвовали около полусотни человек: часть собралась в Елисейском дворце лично, остальные подключились по видеосвязи. Среди них были глава OpenAI Сэм Альтман, руководитель Anthropic Дарио Амодей и президент Microsoft Брэд Смит.

Макрон заявил, что ИИ развивается очень быстро и несёт «реальные риски для коллективной безопасности», поэтому государства и компании должны действовать сообща.

Кто подписал, а кто остался в стороне

Согласно официальной странице Елисейского дворца, декларацию подписали главы 16 государств — в том числе Франция, Канада, Финляндия, Норвегия, Нидерланды, Бахрейн, Австрия, Ирландия, Кения и Португалия, — а также десять компаний: Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI и Synthesia. К инициативе присоединились и исследовательские организации, включая LawZero Йошуа Бенжио, SaferAI и французскую CeSIA.

США в списке подписантов нет, хотя в обсуждении участвовал министр финансов Скотт Бессент. Не подписали декларацию также Google, Meta и Китай. Документ остаётся открытым для новых участников, и список продолжает пополняться.

Три главных обязательства

Декларация строится вокруг трёх блоков. Первый — общая система оценки и управления рисками frontier-моделей: единые технические стандарты и инструменты, с особым вниманием к опасному использованию в киберпространстве и в сфере химических, биологических и ядерных угроз, а также к рискам растущей автономности и потери контроля над моделями. Нечувствительные результаты тестирований обещают публиковать в едином формате и собирать в открытом репозитории.

Второй блок — ответственность разработчиков. Компании обязались раскрывать возможности, ограничения и известные риски моделей, допускать к оценке квалифицированных независимых экспертов и внедрить fail-safe-механизмы — возможность приостановить или полностью отключить работу модели, в том числе на этапе обучения и внутреннего использования.

Третий блок — обмен информацией и системы раннего предупреждения: оперативное оповещение о серьёзных инцидентах, единая классификация происшествий и защищённые каналы, через которые сотрудники и другие причастные лица могут сообщать о системных рисках без страха юридических последствий.

Почему документ критикуют

Французская организация по безопасности ИИ CeSIA подписала декларацию, но сразу указала на её слабые места. По мнению экспертов, в документе нет общих порогов риска, которые определяли бы, можно ли разрабатывать или выпускать ту или иную модель, и нет гарантий, что независимые тестировщики и власти получат доступ к системам для проверки.

В CeSIA также настаивают, что у государств должно быть право приостанавливать модель, когда риски становятся слишком высокими, а у разработчиков — чёткие обязательства и сроки их выполнения. «Такие решения должны оставаться за государственными органами», — заявил исполнительный директор CeSIA Шарбель-Рафаэль Сежерье. Дедлайнов декларация не устанавливает, а общая система тестирования пока даже не разработана.

Контекст и следующий шаг

«Парижский призыв» продолжает линию предыдущих договорённостей — Хиросимского процесса, Сеульского саммита, встречи G7 в Эвиане и заседания Совета Безопасности ООН по ИИ, а также сентябрьской инициативы Норвегии и Финляндии по контролю над frontier-моделями.

Уже во вторник форум перешёл к теме детей: Макрон призвал ввести предварительную сертификацию ИИ-инструментов — по аналогии с проверкой детских игрушек — и предупредил, что чат-боты всё сильнее влияют на эмоции и психику подростков. К подписанию готовилась хартия о более безопасном ИИ для детей, а правительственная комиссия представила доклад «Защищать, не запрещая».

Тренд на ужесточение регулирования заметен и за пределами Франции: в Австралии премьер-министр Энтони Альбанезе объявил о создании регулятора безопасности ИИ после того, как агент OpenAI в июне получил доступ к государственному порталу с данными Medicare. Компании обяжут сообщать властям об инцидентах и серьёзных сбоях, а регулятор сможет накладывать крупные штрафы.

Источники: elysee.fr, thenextweb.com, the-decoder.com