ШІ-асистенти британських лікарів почали плутати діагнози та ліки

Цифрові стенографісти, покликані позбавити лікарів паперової рутини, дедалі частіше припускаються небезпечних неточностей. Британська організація Healthwatch England зафіксувала випадки, коли медичні ШІ-асистенти помилково вносили до карток неіснуючі діагнози, змінювали назви препаратів та губили важливі вказівки лікарів.
Ідеться про інструменти класу AI scribes. Ці програми слухають прийом, переводять розмову в текст і автоматично формують коротку виписку для медичної карти. У Національній службі охорони здоров’я Великої Британії (NHS) наразі застосовують одразу 27 різних сервісів такого типу, сподіваючись розвантажити терапевтів. Однак на практиці автоматизація створила нові ризики.
Небезпечні обмовки алгоритмів
В одному із зафіксованих епізодів ШІ вписав у картку пацієнтки демієлінізацію — пошкодження оболонок нервових волокон, характерне для розсіяного склерозу. На прийомі лікар, навпаки, наголосив, що жодних ознак патології немає. Неіснуючий діагноз вчасно помітила сама жінка лише тому, що працює у сфері охорони здоров’я.
В інших випадках програми підміняли виписані медикаменти ліками зі схожими назвами або взагалі втрачали призначення — наприклад, рекомендацію продовжити рецепт на засіб від мігрені. Головна проблема полягає в тому, що лікарі через високе навантаження підписують автоматично згенеровані звіти не дивлячись, і помилки переходять у постійну історію хвороби.
Довіра проти контролю
Наразі прямих доказів того, що алгоритми помиляються частіше за живих фахівців, немає. Згідно з даними опитування серед тисячі британських терапевтів, опублікованими The Guardian, понад половина лікарів вважають згенеровані ШІ записи навіть точнішими, ніж нотатки від руки.
Пацієнти водночас налаштовані більш насторожено. Дослідження Healthwatch England серед чотирьох тисяч жителів країни показало: 81% опитуваних прагнуть, щоб їх заздалегідь попереджали про аудіозапис прийому та роботу алгоритмів. Ще 69% респондентів заявили, що почуватимуться спокійно лише тоді, якщо кожен рядок за ШІ обов’язково переперевірить людина.