Дослідники з клініки Brigham and Women's Hospital виявили тривожний факт – популярний чат-бот ChatGPT вводить в оману, даючи небезпечні поради щодо лікування онкології. Експеримент показав, що близько третини порад щодо терапії від ChatGPT містять, м'яко кажучи, не зовсім правдиву інформацію.
Мікс правди і брехні: фішка ChatGPT?
Ба більше, чат-бот хитро змішує правду і вигадку так, що важко відокремити зерна від полови. Зі 104 запитів майже всі відповіді містили бодай одну правильну рекомендацію, що відповідає медичним стандартам. Це робить викриття помилок складним завданням навіть для професіоналів. Перевірка кожної поради ChatGPT забирає більше часу, ніж якби лікар сам склав план лікування.
Утім, ШІ може бути корисним в охороні здоров'я для вирішення адміністративних завдань. Також з'ясувалося, що скринінг раку молочної залози за допомогою ШІ безпечний і рідко дає збої. Крім того, ChatGPT виявився більш емпатичним і терплячим, ніж люди.
Таким чином, незважаючи на ризики, інтеграція ШІ в медицину має потенціал за умови ретельної перевірки видаваних результатів.
Рекомендуємо прочитати: Розумний рюкзак від Microsoft: патент на технологію майбутнього
