Билл Гейтс предупредил, что искусственный интеллект является настолько мощным инструментом, что может привести к гибели значительной части человечества. Таким образом соучредитель Microsoft присоединился к растущему числу руководителей и сотрудников технологической отрасли, которые обращают внимание на экзистенциальные риски ИИ, пишет Bloomberg.

«ИИ, безусловно, достаточно мощный, чтобы вызвать события, которые, знаете, приведут к миллиарду смертей, — сказал Гейтс в отрывке из интервью NBC Meet the Press, которое выйдет в эфир в эти выходные. — Никогда раньше не существовало оружия столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ».

Гейтс не прогнозирует гибель миллиарда людей именно из-за ИИ. Речь идет о потенциальном масштабе последствий, если все более мощные системы окажутся в руках людей, намеревающихся причинить вред. Он подчеркнул, что сценарий полного уничтожения человечества остается маловероятным, однако назвал сочетание злоумышленников и современных инструментов ИИ беспрецедентно мощной угрозой.

В Кремниевой долине всё громче предупреждают о потенциально катастрофических последствиях развития ИИ по мере стремительного совершенствования этой технологии. В начале этого месяца рядовой сотрудник Anthropic Джейкоб Коксон уволился и обвинил обоих своих бывших работодателей — Anthropic и OpenAI — в том, что они «играют нашими жизнями», «наперегонки движутся к сверхразумному ИИ».

[see_also ids="696964"]

Другой сотрудник Anthropic заявил, что, по его мнению, вероятность того, что ИИ уничтожит всё человечество в течение следующего десятилетия, превышает 10%.

Эти заявления привлекли широкое внимание к дискуссии, которая уже давно ведётся внутри отрасли и остаётся крайне противоречивой. Они также вызвали публичные призывы к технологическим компаниям делать больше для обеспечения безопасности своих разработок.

Генеральный директор Anthropic Дарио Амодей после этого призвал замедлить развитие ИИ. Его предложение быстро поддержали другие представители отрасли, в частности генеральный директор OpenAI Сэм Альтман и Илон Маск.

[see_also ids="696389"]

В интервью Гейтс заявил, что саморегулирования технологической индустрии недостаточно.

«К дискуссии о том, какими должны быть меры предосторожности и мониторинг, должны присоединиться правоохранительные органы и политики, — сказал он. — И это должно быть обязательным требованием».

Ранее, в августовском эссе, Гейтс утверждал, что злоумышленники могут использовать все более мощные инструменты ИИ для кибератак, мошенничества, дезинформации и других видов масштабного ущерба.

По его словам, эти технологии могут быть использованы для атак на больницы, финансовые учреждения, электросети и государственные системы.

[see_also ids="696774"]

В то же время генеральный директор Nvidia Дженсен Хуанг на днях категорически отверг сценарий уничтожения человечества искусственным интеллектом. «2030 год не станет концом света. Вероятность этого — 0%», — заявил он в интервью CBS News, назвав запугивание людей такими прогнозами «ненужным» и «безответственным». Хуанг также выступил против введения нового регулирования ИИ, считая, что для контроля рисков достаточно действующего законодательства.