фото с Зеркало недели
Лауреат Нобелевской премии по физике Джеффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», предложил регулировать ИИ по аналогии с лекарственными средствами. По его мнению, компании должны доказывать безопасность своих продуктов независимому государственному регулятору до их выпуска. Об этом ученый рассказал в подкасте Smart Girl Dumb Questions.
«Искусственный интеллект следует регулировать так же, как мы регулируем лекарственные средства», — передал Хинтон основную мысль астрофизика Макса Тегмарка и добавил, что новые лекарства нельзя просто выпустить на рынок, а потом проверять, безопасны ли они.
По мнению ученого, перед выпуском продуктов компании должны убедить государственный регулирующий орган в их безопасности. В случае с лекарствами такую функцию выполняет Управление по контролю за продуктами и лекарствами США (Food and Drug Administration, FDA).
Не сдерживать, а сертифицировать: эксперт по безопасности предложил новые правила для рынка ИИ
«Для этого нужно проделать огромный объем работы — на сумму около миллиарда долларов. Кажется, это минимум, который должен быть введен и для ИИ», — заявил Хинтон.
В то же время учёный признал, что создание крупной регуляторной структуры по типу FDA требует времени. По его словам, это противоречит необходимости действовать в отношении рисков ИИ «очень и очень быстро».
Хинтон провел аналогию с борьбой против изменения климата, отметив, что власти начали действовать только после того, как общество осознало вред от сжигания ископаемого топлива и оказало ощутимое давление на политиков. По его мнению, ситуация с технологиями развивается по схожему сценарию.
Реклама
«Сейчас мы видим, что общественность начинает оказывать давление на политиков, требуя принятия мер в отношении ИИ», — подчеркнул ученый, назвав это обнадеживающим сигналом.
Между тем компании OpenAI, Anthropic и Google начали переговоры о создании совместного органа для установления стандартов безопасности и предварительной проверки передовых моделей ИИ. По замыслу инициатора идеи, бывшего главы Google DeepMind Демиса Хассабиса, структура должна работать по образцу американского финансового регулятора FINRA — то есть финансироваться самими технологическими гигантами, но действовать под государственным надзором.