Исследователи из клиники Brigham and Women’s Hospital выявили тревожный факт – популярный чат-бот ChatGPT вводит в заблуждение, давая опасные советы по лечению онкологии. Эксперимент показал, что около трети советов по терапии от ChatGPT содержат мягко говоря, не совсем правдивую информацию.
Микс правды и лжи: фишка ChatGPT?
Более того, чат-бот хитро смешивает правду и вымысел так, что трудно отделить зерна от плевел. Из 104 запросов почти все ответы включали хотя бы одну верную рекомендацию, соответствующую медицинским стандартам. Это делает разоблачение ошибок сложной задачей даже для профессионалов. Проверка каждого совета ChatGPT отнимает больше времени, чем если бы врач сам составил план лечения.
Впрочем, ИИ может быть полезен в здравоохранении для решения административных задач. Также выяснилось, что скрининг рака молочной железы с помощью ИИ безопасен и редко дает сбои. Кроме того, ChatGPT оказался более эмпатичным и терпеливым, чем люди.
Таким образом, несмотря на риски, интеграция ИИ в медицину имеет потенциал при условии тщательной проверки выдаваемых результатов.
Рекомендуем прочитать: Почему учителя не могут отследить, пользуются ли ученики ChatGPT?
