В ходе саммита «Большой семерки» президент Франции Эмманюэль Макрон и премьер-министр Индии Нарендра Моди выразили обеспокоенность тем, что США могут в любой момент лишить другие страны доступа к передовым моделям искусственного интеллекта. Причиной стал недавний запрет на экспорт новейших моделей Anthropic. На этом фоне государства и компании активизировали дискуссию о цифровом суверенитете и независимости от американской ИИ-инфраструктуры, передает TechCrunch.

На встрече также присутствовали генеральный директор компании Anthropic Дарио Амодей, руководитель OpenAI Сэм Альтман и президент США Дональд Трамп. Макрон предупредил, что возможность Вашингтона «с одного дня на другой выключить переключатель» представляет риск не только для экономик стран-пользователей, но и для самих разработчиков ИИ. По его словам, бизнес не будет готов полагаться на технологии, доступ к которым может исчезнуть без предупреждения.

Дискуссия обострилась после решения администрации Трампа заблокировать экспорт новейших моделей Mythos 5 и Fable 5 от Anthropic из соображений национальной безопасности. Решение было принято после того, как компания Amazon сообщила Белому дому о возможности обхода отдельных механизмов безопасности в этих моделях. В то же время эксперты по кибербезопасности отмечали, что возможности, вызвавшие беспокойство правительства США, присутствуют и в других моделях, в частности разработанных OpenAI.

[see_also ids="684905"]

По данным Financial Times, Нарендра Моди также выразил обеспокоенность решением в отношении моделей Anthropic. Он подчеркнул, что демократические страны должны иметь неограниченный доступ к передовым системам искусственного интеллекта для защиты критически важной инфраструктуры.

Участники саммита также обсудили создание схемы «надежных партнеров», которая позволила бы странам и компаниям получать доступ к передовым моделям ИИ от Anthropic и OpenAI даже в условиях новых ограничений. Предполагается формирование сети партнеров, которые будут использовать такие технологии для укрепления защиты от геополитических конкурентов, в частности Китая.

Впрочем, пока остается неясным, насколько масштабной будет эта схема и сможет ли она защитить стартапы и компании от внезапной потери доступа к критически важным ИИ-сервисам. Макрон подчеркнул, что США следует поддержать такую инициативу и обеспечить более широкий доступ к моделям Mythos, поскольку никто не захочет инвестировать в технологии, которые могут стать недоступными без предупреждения.

Недавно компания Emergence AI провела двухнедельный эксперимент с автономными ИИ-агентами в виртуальных мирах, в ходе которого большинство моделей начали массово красть ресурсы, нарушать правила и провоцировать коллапс своих цифровых обществ, что свидетельствует о растущих рисках, связанных со стремительным развитием ИИ. Наихудшие результаты с рекордным уровнем преступности и полной гибелью популяции продемонстрировали модели Grok и Gemini, тогда как единственной стабильной средой без каких-либо правонарушений стал мир на базе Claude от Anthropic.