Засновники компанії OpenAI, яка розробила чат-бот ChatGPT, заявили про необхідність регулювання «надрозумного» штучного інтелекту. Вони вважають, що необхідно створити еквівалент Міжнародного агентства з атомної енергії, щоб захистити людство від ризику випадкового створення чогось, що здатне його знищити, повідомляє The Guardian..

У короткій замітці співзасновники компанії Грег Брокман та Ілля Суцкевер, а також генеральний директор Сем Альтман закликають до створення міжнародного регулятора, який «інспектуватиме системи, вимагатиме аудиту, тестуватиме на відповідність стандартам безпеки, [і] встановить обмеження на ступеня розгортання та рівні безпеки».

[see_also ids\u003d"

Експерти припускають, що протягом 10 років штучний інтелект може досягти рівня, який дозволить йому виконувати роботу, яку зараз виконують великі корпорації.. За їхніми словами, це має як переваги, так і недоліки. Створення надінтелекту може допомогти нам досягти блискучого майбутнього, але необхідне його регулювання, яке дозволить захистити нас від можливих ризиків.

У короткостроковій перспективі Брокман, Суцкевер та Альтман закликають до «якогось ступеня координації» між компаніями, які працюють над передовими дослідженнями в галузі ІІ. Це дозволить забезпечити плавну інтеграцію розробки все більш потужних моделей із суспільством, приділяючи при цьому пріоритетну увагу безпеці.. Ця координація може здійснюватись, наприклад, через проект під керівництвом уряду або через колективний договір, що обмежує зростання можливостей ІІ.

Занепокоєння, пов'язані з можливим створенням суперінтелекту, вчені висловлюють упродовж десятиліть. З розвитком технології ІІ ці ризики стали більш онкретними. Американський Центр безпеки штучного інтелекту (CAIS), який працює над тим, щоб «зменшити суспільні ризики від штучного інтелекту», описує вісім категорій «катастрофічних» та «екзистенційних» ризиків, які можуть представляти розвиток ІІ.

Деякі люди турбуються про те, що ІІ може повністю знищити людство, але CAIS розглядає інші сценарії. Так, світ, у якому системам ІІ добровільно передається все більше праці, може призвести до того, що людство «втратить здатність до самоврядування та стане повністю залежним від машин». Невелика група людей, які контролюють машини, можуть зробити ІІ «централізуючою силою».

Засновники OpenAI кажуть, що ці ризики означають, що «люди в усьому світі мають демократичним шляхом визначати межі та значення за умовчанням для ІІ систем».. Разом з тим, вони визнають, що ми поки що не знаємо, як можна створити такий механізм.

Раніше OpenAI назвала професії, які можуть зникнути через розвиток штучного інтелекту. У приблизно 80% американських працівників щонайменше 10% їхніх робочих завдань можуть бути виконані ресурсом GPT або іншим штучним інтелектом. Близько 19% працівників у найближчому майбутньому можуть втратити не менше 50% своїх завдань.