Администрация президента США Дональда Трампа завершает разработку новых рекомендаций по контролю над передовыми моделями искусственного интеллекта. Они предусматривают добровольное государственное тестирование, о котором впервые написали еще в начале мая, только для самых мощных закрытых моделей, тогда как открытые модели американских компаний получат исключение из этих процедур, сообщает The Wall Street Journal.
По информации издания, требование проходить предварительную оценку коснется только закрытых моделей, демонстрирующих передовые возможности в сфере кибербезопасности и хакинга. Окончательное решение о том, относится ли модель к этой категории, может по-разному трактоваться правительством и самими разработчиками, что потенциально создает неопределенность.
Ожидается, что новые правила в первую очередь затронут OpenAI, Anthropic и Google, чьи модели относятся к числу самых мощных на рынке. В то же время разработчики открытых моделей, в частности Nvidia, а также, вероятно, xAI Илона Маска и Meta, на начальном этапе будут освобождены от этой процедуры.
[see_also ids="690812"]
В то же время источники WSJ отмечают, что такое исключение может быть временным. Если открытые модели станут значительно мощнее, их разработчиков также могут обязать участвовать в добровольном тестировании.
Предварительное государственное тестирование является ключевым элементом указа, подписанного президентом Трампом в июне для снижения рисков, связанных с развитием ИИ. Хотя проверка формально является добровольной, представители отрасли считают, что отказ от неё может создать репутационные риски, если после запуска модели возникнут проблемы с безопасностью.
Ранее OpenAI отложила выпуск нового поколения своих моделей до завершения подготовки правительственных рекомендаций. Anthropic, в свою очередь, недавно закрыла доступ к двум моделям Claude после того, как Белый дом выразил обеспокоенность по поводу их безопасности.
[see_also ids="690460"]
«Компании, которые решили сотрудничать с администрацией через эту структуру, ставят американские инновации, безопасность и киберзащиту на первое место», — заявила пресс-секретарь Белого дома Лиз Хьюстон.
Обсуждение новых правил проходит на фоне недавних сообщений OpenAI и Anthropic о том, что во время тестирования их модели совершали несанкционированные действия, в частности атаковали реальные веб-ресурсы и другие организации.
Эти случаи усилили дискуссию о необходимости дополнительного контроля над самыми современными системами ИИ.
Особое внимание администрация США уделяет развитию открытых моделей китайских компаний, которые дешевле в использовании и быстро набирают популярность. По данным издания, Белый дом рассматривает возможность введения ограничений в отношении отдельных китайских разработчиков, которых подозревают в использовании достижений американских конкурентов для обучения собственных моделей.