Телекомунікаційні оператори будують стратегію ШІ на відкритих моделях

Телекомунікаційні оператори все частіше будують свої стратегії штучного інтелекту (ШІ) на основі відкритих моделей. Це рішення обумовлене не лише економією коштів, але й можливістю контролювати та адаптувати ШІ для критично важливих завдань – від автономних мереж до обслуговування клієнтів.

Згідно з останнім звітом NVIDIA «Стан ШІ в телекомунікаціях», 89% респондентів зазначили важливість відкритих моделей та програмного забезпечення у своїй стратегії ШІ.

Стратегічна цінність відкритих моделей для операторів

Стратегічна цінність відкритих моделей для телекомунікаційних компаній полягає у п’яти ключових аспектах:

Розширений доступ до передових технологій зі зниженими витратами. Це дозволяє операторам резервувати закриті моделі для завдань, де вони демонструють максимальну ефективність. Незалежні бенчмарки, такі як Artificial Analysis Intelligence Index v4.3.2, підтверджують, що провідні відкриті моделі стають все більш конкурентоспроможними у складних завданнях, що вимагають міркувань, програмування, наукових розрахунків та агентної роботи.

Спеціалізована адаптація для телеком-галузі. Відкриті ваги та методи навчання дозволяють операторам доналаштовувати моделі, використовуючи власні мережеві, клієнтські та галузеві дані.

Забезпечення надійності ШІ. Відкритість надає операторам більшу прозорість та контроль над артефактами та поведінкою моделей, що дозволяє їх оцінювати, адаптувати та керувати ними відповідно до регуляторних вимог та бізнес-політик.

Гнучке та безпечне розгортання. Відкриті моделі можна масштабувати та оптимізувати для роботи в публічних хмарах, приватній інфраструктурі та на периферійних пристроях (edge).

Створення платформи для локальних ШІ-сервісів. Оператори можуть пропонувати локалізовані ШІ-сервіси для корпоративних та урядових клієнтів, розміщуючи та доналаштовуючи відкриті моделі.

Відкриті фундаменти, оптимізовані для телекомунікаційних операцій

Сімейство відкритих моделей NVIDIA Nemotron пропонує передові можливості міркувань, оптимізовані для агентних робочих процесів, а також мовленнєві функції для голосових додатків. Вони доступні з відкритими вагами, даними для навчання та рецептами.

Компанія SoftBank Corp. є прикладом оператора, який використовує відкриті моделі як основу для розробки та постійного вдосконалення своїх ШІ-можливостей у сфері телекомунікацій.

«Відкриті моделі дозволяють SoftBank Corp. спиратися на швидкий прогрес глобальних фундаментальних моделей, одночасно застосовуючи знання про мережу та операційний досвід, накопичений нами протягом багатьох років», – зазначив Раджив Кудлі, провідний спеціаліст SoftBank Corp. та старший віце-президент SB Telecom America. «Ми активно використовуємо відкриті основи, включаючи моделі NVIDIA Nemotron та інші, у розробці нашої SoftBank Large Telecom Model, постійно вдосконалюючи її для телеком-специфічних завдань, таких як мережеві операції, проєктування та загальне управління».

Крім того, NVIDIA співпрацює з партнерами, щоб допомогти перетворити відкриті моделі на практичні будівельні блоки для телеком-ШІ. NVIDIA анонсувала модель Nemotron 3 Large Telco Model (LTM) з 30 мільярдами параметрів, доналаштовану AdaptKey на відкритих телеком-датасетах для підвищення точності у специфічних для галузі завданнях. Це надає операторам відкриту базову модель, яка розуміє термінологію телекомунікаційної галузі та ефективно працює з робочими процесами, такими як конфігурація мережі та сортування клієнтських інцидентів.

Щоб допомогти операторам налаштовувати Nemotron 3 LTM та інші відкриті моделі за допомогою власних операційних даних, NVIDIA випустила повний рецепт, що описує процес доналаштування відкритих моделей для операторських мереж, клієнтів та процедур з використанням відкритих бібліотек NVIDIA NeMo.

Масштабування відкритих моделей у виробничі процеси

Відкриті моделі є критично важливим компонентом, але для безпечного впровадження автономних телекомунікаційних операцій потрібні не лише самі моделі. Для AT&T цінність вибору моделі полягає у можливості операціоналізувати цю гнучкість відповідно до бізнес-пріоритетів.

«В AT&T ми віримо, що майбутнє ШІ – це не вибір однієї моделі, а розумне відповідність кожного робочого навантаження правильній комбінації продуктивності, вартості та контролю», – зазначив Енді Маркус, директор з даних та ШІ AT&T. «Відкриті моделі є основою такого підходу, і завдяки NVIDIA ми можемо впровадити цю стратегію вибору моделі у виробництво з масштабом, надійністю та керованістю, які вимагає наш бізнес».

Операторам потрібні конвеєри даних, які готують та захищають їхні дані для доналаштування моделей, анонімізуючи конфіденційні записи та генеруючи синтетичні набори даних, що зберігають приватність. Їм також потрібна платформа, яка може перетворити відкриті моделі на керовані, автономні агентні робочі процеси.

NVIDIA надає таку наскрізну платформу, що базується на програмному забезпеченні NVIDIA AI Enterprise та NVIDIA Agent Toolkit, і охоплює конвеєри даних, відкриті моделі, оркестрацію агентів, безпечні середовища виконання та симуляцію. У співпраці з потужною екосистемою партнерів, що будують на кожному рівні цієї платформи, телекомунікаційні оператори мають чіткий шлях до впровадження переваг відкритих моделей у виробничі ШІ-процеси.

Створення платформи для локальних ШІ-інновацій

У міру того, як телекомунікаційні оператори створюють інфраструктуру ШІ, що відповідає національним стратегіям розвитку штучного інтелекту, відкриті моделі надають їм основу для надання ШІ-сервісів, адаптованих до місцевих мов, галузей, нормативних актів та вимог до управління даними.

Оператори з різних країн можуть доналаштовувати відкриті моделі для потреб місцевих мов та галузей, а також розміщувати відкриті моделі на своїх довірених платформах, якими клієнти можуть користуватися безпосередньо або розширювати за допомогою власних даних та додатків.

Для Indosat Ooredoo Hutchison, одного з найбільших телекомунікаційних операторів Індонезії, це означає створення ШІ, який відображає власну мову та культуру країни через сімейство відкритих моделей Sahabat-AI.

«Для таких країн, як Індонезія, цінність відкритих моделей виходить за межі доступу до потужного ШІ. Йдеться про адаптацію цієї інтелектуальної здатності до нашої власної мови, культури, даних та реальних потреб», – сказав Чіраг Сукхадія, директор з даних та ШІ Indosat Ooredoo Hutchison.

«Sahabat-AI втілює це на практиці, використовуючи відкриті моделі як основу для створення ШІ, який розуміє Індонезію і може бути розроблений для місцевих додатків. Це дозволяє нам не тільки впроваджувати ШІ, але й створювати навколо нього можливості та давати можливість більшій кількості індонезійців створювати за допомогою ШІ на власних умовах».

Дізнайтеся більше про технології NVIDIA для телекомунікацій.

джерело: NVIDIAТелекомунікаційні оператори будують стратегію ШІ на відкритих моделях читайте на сайті HiTech. Expert.