Нормативні органи Великої Британії висловлюють серйозне занепокоєння щодо точності систем штучного інтелекту (ШІ), які використовуються для транскрипції медичних консультацій. Регулятор Національної служби охорони здоров’я (NHS) попередив, що ці технології можуть становити ризик для пацієнтів через часті помилки у розпізнаванні назв ліків та захворювань.

Ризиковані діагнози та помилкові записи

Один із тривожних випадків стосується пацієнтки, яка є медичним працівником NHS. ШІ-система помилково зафіксувала в її медичній карті діагноз “демієлінізація”, що вказує на потенційний розвиток множинного склерозу – серйозного неврологічного захворювання. На щастя, пацієнтка сама звернула увагу на неточність у підсумку її розмови з лікарем, що стосувався результатів МРТ. Після її втручання помилка була виправлена, і правильний діагноз “відсутність демієлінізації” був внесений до медичної документації. “Це був дуже болісний досвід, коли ШІ поставив невірний діагноз, а потім назвав це просто помилкою в написанні”, – розповіла жінка, яка побажала залишитися анонімною.

Випадок викрив organizacao з прав пацієнтів Healthwatch England, яка оприлюднила цю та інші помилки, що виникають при використанні ШІ-інструментів для запису медичних даних. Якщо ці помилки не будуть вчасно виявлені, вони можуть потрапити до медичних карточок пацієнтів і вплинути на подальше лікування.

В іншій ситуації ШІ-система сплутала призначені лікарем препарати з аналогічними за назвою ліками. І знову ж таки, помилку виявив не медичний працівник, а сам пацієнт.

Ще один приклад: у зведенні, створеному ШІ, не було згадано, що спеціаліст лікарні рекомендував пацієнту звернутися до свого сімейного лікаря для продовження виписування рецепта на ліки від мігрені. Така упущення могла б призвести до того, що пацієнт не отримав би необхідне лікування.

Системні проблеми та потреба в регулюванні

Healthwatch England зазначає, що вже чула про “багатьох пацієнтів, які виявляють помилки, тоді як медичні працівники їх не помічають”. Організація наголошує: “Якщо пацієнти не виявлять ці помилки, неточна інформація може залишитися в їхніх медичних записах”.

Незважаючи на потенційні ризики, NHS активно впроваджує ШІ-інструменти, які мають на меті звільнити медичний персонал від рутинної паперової роботи та адміністративних завдань, дозволяючи їм приділяти більше часу пацієнтам. Це частина масштабної цифрової трансформації служби.

“У медичній сфері ніколи не буває абсолютної відсутності помилок. Однак наші висновки свідчать про нагальну потребу в чіткому визначенні процедур звітування про помилки, допущені ШІ-системами або медичними працівниками, що їх використовують, а також про механізми їх виправлення”, – заявив представник Healthwatch.

Рейчел Пауер, виконавчий директор Patient Association, додала: “Довіра пацієнтів до цієї технології залежить від ефективної комунікації та справжньої співпраці з пацієнтами, чого зараз бракує”.

Особливе занепокоєння викликає рішення британського Агентства з регулювання лікарських засобів та медичних виробів (MHRA) не класифікувати ШІ-інструменти для медичних записів як медичні вироби. Це означає, що в Англії наразі не існує загальнонаціонального механізму регулювання для забезпечення безпеки та ефективності використання таких інструментів.

Наразі 27 різних ШІ-інструментів для медичних записів вже використовуються сімейними лікарями та лікарнями в Англії. Урядовцям раніше попереджали, що NHS та медичні працівники можуть зіткнутися з судовими позовами у разі медичних помилок, спричинених ШІ.

“Ілюзії ШІ” та зниження ефективності

Проблеми з точністю ШІ набувають все більшої актуальності. Пацієнти з Ротерема скаржилися, що системи ШІ на рецепції деяких клінік не розуміють їхніх місцевих акцентів. Доктор Шір Зісер Дауд, сімейний лікар з Лондона, минулого року попереджала у авторитетному медичному журналі, що такі інструменти можуть бути “палицею з двома кінцями” для лікарів.

Вона згадала випадок, коли ШІ-система помилково зафіксувала, що вона рекомендувала пацієнту “продовжувати приймати Прозак”, хоча насправді вона ніколи не призначала ці ліки цьому пацієнту і навіть не обговорювала їх. Це явище, відоме як “ілюзії ШІ”, коли система генерує інформацію, якої не було під час консультації.

Дауд попереджає, що лікарі все ще змушені ретельно перевіряти всі записи, згенеровані ШІ, щоб виявити помилки. Таким чином, ці інструменти поки що не заощаджують час лікарів.

Доктор Шарлотта Бліз, експерт з застосування медичного ШІ в Уппсальському університеті (Швеція), підтверджує: “ШІ справді робить помилки, і він вже їх робить”. Її дослідження показують, що ШІ частіше помиляється, коли:

Під час консультації присутні кілька пацієнтів або супроводжуючих осіб.

Історія хвороби пацієнта є складною.

Першою мовою пацієнта не є англійська.

Однак, Бліз також зазначає: “Фактично, лікарі роблять помилки і без ШІ. Звичайно, ШІ може підвищити рівень помилок”.

За її словами, у минулорічному опитуванні 1003 британських сімейних лікарів, понад половина респондентів вважали, що медичні записи, згенеровані ШІ, точніші за їхні власні записи.

Ситуація вимагає термінового перегляду підходів до впровадження та регулювання ШІ в медицині, щоб забезпечити безпеку пацієнтів та зберегти їхню довіру до системи охорони здоров’я.

Джерело: https://www. ithome.com/0/996/485. htmAI в медицині: помилки запису загрожують безпеці пацієнтів читайте на сайті HiTech. Expert.