Соучредитель Ethereum Виталик Бутерин предложил создать универсальный механизм экстренного отключения систем искусственного интеллекта. Его позиция вызвала дискуссию с главным научным сотрудником Meta Яном ЛеКуном и другими экспертами о будущем регулировании ИИ, сообщает BigGo Finance.

Виталик Бутерин выступил за возможность внедрения универсального механизма экстренного отключения ИИ, если развитие технологии начнёт представлять серьёзную угрозу. Свою позицию он изложил в социальной сети X, где продолжается активная дискуссия о рисках появления искусственного суперинтеллекта.

«Я готов к замедлению или даже приостановке развития ИИ, если риски станут значительными», — написал Бутерин.

[see_also ids="687723"]

Этот пост вызвал критику со стороны Яна ЛеКуна, который назвал опасения относительно скорого появления суперинтеллекта преждевременными. По его мнению, безопасность ИИ — это прежде всего инженерная проблема, которую можно постепенно решать, так же, как на протяжении десятилетий совершенствовали безопасность авиации.

ЛеКун также подверг сомнению оценки возможностей современных крупных языковых моделей. Он охарактеризовал их как сложные системы автозаполнения текста, а не предвестников всемогущего цифрового интеллекта.

«Наибольший риск, связанный с искусственным интеллектом, заключается в концентрации власти в руках нескольких доминирующих поставщиков проприетарных ИИ-ассистентов. Единственным решением для обеспечения суверенитета в сфере искусственного интеллекта являются базовые модели с открытым кодом», — заявил ЛеКун.

[see_also ids="689183"]

Новую волну дискуссии вызвала публикация статьи «AI 2040: Plan A», подготовленной проектом AI Futures под руководством исследователя Даниэля Кокотайло. Авторы документа предполагают, что суперинтеллект может появиться уже к 2040 году, и предлагают беспрецедентную координацию между США и Китаем для контроля над развитием самых мощных моделей ИИ.

Одним из самых резонансных предложений отчета стала концепция «взаимогарантированного вычислительного уничтожения». Она предусматривает возможность взаимного сдерживания стран в сфере развития сверхмощных систем искусственного интеллекта по аналогии с ядерным сдерживанием времен холодной войны.

В то же время ряд экспертов призвал избегать чрезмерного регулирования. Старший научный сотрудник Института R Street Адам Тьерер считает, что действующие законодательные инициативы США остаются хаотичными и могут навредить развитию открытых моделей ИИ. По его мнению, эффективнее использовать существующие законы, требования к прозрачности для самых мощных моделей, регуляторные «песочницы» и увеличить финансирование исследований в области безопасности ИИ вместо введения новых жестких ограничений.

[see_also ids="687687"]

Таким образом, дискуссия о будущем искусственного интеллекта всё больше сводится к двум подходам.

Один из них предполагает превентивное регулирование в связи с риском появления суперинтеллекта уже в ближайшие десятилетия, тогда как другой делает ставку на постепенное совершенствование технологий, открытый код и развитие инженерных механизмов безопасности без существенного замедления инноваций.

Ранее историк и футуролог Юваль Ной Харари заявил, что главная угроза искусственного интеллекта заключается не в физическом восстании роботов, а в постепенном перехвате контроля над глобальными бюрократическими системами. По прогнозу футуролога, это приведет к полному вытеснению человека из процессов принятия решений, из-за чего человечество рискует оказаться в неконтролируемой и непонятной ИИ-экономике.