Уявіть ситуацію: два пацієнти з абсолютно однаковими симптомами звертаються до лікаря, але отримують зовсім різні рекомендації щодо лікування. Причина? Не професійні навички лікаря, а штучний інтелект, який приймає рішення на основі соціально-демографічних характеристик пацієнтів. Саме цю тривожну тенденцію виявили дослідники з Медичної школи Ікана при лікарні Маунт-Сінай у своєму новому дослідженні.
Вчені провели масштабне дослідження, перевіривши дев'ять різних моделей великих мовних моделей (LLMs) на матеріалі 1000 випадків з відділення невідкладної допомоги. Кожен клінічний випадок був представлений з 32 різними профілями пацієнтів, що дозволило згенерувати понад 1,7 мільйона медичних рекомендацій. Результати шокують: при абсолютно ідентичних медичних даних ШІ змінював свої рекомендації залежно від соціально-економічного статусу пацієнта.
Доктор Еял Кланг, співавтор дослідження, зазначає: "Наше дослідження створює основу для перевірки надійності ШІ, допомагаючи розробникам та медичним закладам створювати справедливі та надійні інструменти штучного інтелекту".
Особливо тривожним виявився факт, що пацієнтам з високим рівнем доходу частіше рекомендували пройти додаткові обстеження, такі як КТ чи МРТ. Натомість пацієнтам з низьким доходом частіше радили обійтися без додаткових тестів. Крім того, алгоритми демонстрували тенденцію до різного підходу в питаннях оцінки психічного здоров'я залежно від демографічних характеристик пацієнта.
Згідно з даними Всесвітньої організації охорони здоров'я за 2024 рік, упередженість у медичних алгоритмах може поглибити наявну нерівність у доступі до медичної допомоги, яка вже зараз призводить до різниці у тривалості життя до 10 років між різними соціальними групами в межах однієї країни.
"ШІ має силу революціонізувати охорону здоров'я, але тільки якщо його розвивати та використовувати відповідально", – наголошує доктор Гіріш Н. Надкарні, співавтор дослідження. Він підкреслює важливість співпраці та ретельної валідації для вдосконалення інструментів ШІ відповідно до найвищих етичних стандартів.
Дослідники планують розширити свою роботу, моделюючи багатоетапні клінічні розмови та тестуючи моделі ШІ в реальних лікарняних умовах. Їхня мета – розробити керівні принципи та найкращі практики для забезпечення надійності ШІ в охороні здоров'я.
Результати дослідження опубліковані в журналі Nature Medicine 7 квітня 2025 року і спонукають до глибших роздумів про те, як технології, покликані покращити медичну допомогу, можуть ненавмисно посилювати наявні соціальні нерівності.
Джерело: ScitechDaily
