Использование ИИ для написания текстов для сайтов YMYL сопряжено с высокими рисками из-за проблем с точностью и достоверностью. Исследования показывают, что ИИ-модели часто генерируют неподтвержденную информацию в критически важных сферах, таких как медицина, финансы и право. Алгоритмы Google, особенно после усиления роли E-E-A-T (Опыт, Экспертиза, Авторитетность, Доверие), отдают предпочтение контенту, который демонстрирует реальный человеческий опыт, чего искусственный интеллект симулировать не в состоянии.
Новые “правила игры” для контента c высокой ответственностью
Мартовское обновление основного алгоритма Google в 2024 году серьезно затронуло многие сайты, но особенно сильно пострадали ресурсы из ниши YMYL – "Your Money or Your Life" ("Ваши деньги или ваша жизнь"). Google ожидал сокращения низкокачественного, неоригинального контента в поисковой выдаче на 40%, и сайты финансовой и медицинской тематики оказались в числе наиболее пострадавших. Это событие в очередной раз подчеркнуло, что к YMYL-контенту поисковые системы применяют самые строгие стандарты.
К категориям YMYL относятся темы, способные напрямую повлиять на здоровье, финансовую стабильность, безопасность и благополучие людей. Это медицинские советы, финансовые консультации, юридическая информация, новости и т.д. В этой статье мы разберем, почему слепое доверие к ИИ при создании такого контента может привести не только к потере позиций в поиске, но и к более серьезным последствиям.
Почему Google так пристально следит за YMYL?
Поисковая система несет ответственность за качество предоставляемой информации. Ошибка в рецепте торта может испортить ужин, а неверный медицинский совет – стоить человеку здоровья.
В руководстве для асессоров качества поиска Google прямо указано, что для страниц с явной YMYL-тематикой применяются "очень высокие стандарты оценки качества", и они "требуют наиболее тщательной проверки". Для таких запросов Google придает "больший вес в системах ранжирования таким факторам, как наше понимание авторитетности, экспертности и достоверности страниц". Это создает двухуровневую систему: если для обычного контента достаточно "повседневного опыта", то для YMYL требуется "чрезвычайно высокий" уровень E-E-A-T. Контент с неадекватным E-E-A-T получает самую низкую оценку качества.
Ненадежность ИИ: почему машины проваливают проверку на факты
Несмотря на стремительное развитие, большие языковые модели (LLM) все еще не являются надежным источником для тем, где цена ошибки высока. Они обучены предсказывать следующее наиболее вероятное слово в последовательности, а не проверять факты. Это приводит к большому количеству ошибок, дезинформации и "галлюцинаций".
Вот лишь несколько направлений, где ИИ демонстрирует свою несостоятельность:
- Медицинские неточности;
- Финансовая дезинформация;
- Юридические «галлюцинации».
Давайте рассмотрим каждый из этих пунктов на основе конкретных исследований и примеров.
Медицинские неточности
Исследование Стэнфордского института искусственного интеллекта (Stanford HAI) от февраля 2024 года показало, что даже продвинутая модель GPT-4 с технологией RAG (Retrieval-Augmented Generation) генерирует неподтвержденные утверждения в 30% случаев. Почти 50% ответов содержали как минимум одно такое утверждение. В одном из случаев модель дала инструкцию по использованию неподходящего типа медицинского оборудования, что в реальной ситуации могло бы нанести вред пациенту.
Показателен случай с журналом Men's Journal, который в 2023 году опубликовал свою первую статью о здоровье, сгенерированную ИИ. Доктор Брэдли Анавальт из Медицинского центра Вашингтонского университета выявил в ней 18 конкретных ошибок. Он охарактеризовал материал как содержащий "постоянные фактические ошибки и искажения медицинской науки", включая отождествление разных медицинских терминов и предоставление необоснованных предупреждений о здоровье . Опасность в том, что такие тексты "имеют достаточную близость к научным данным, чтобы звучать правдоподобно", и обычный читатель не способен отличить правду от вымысла.
Финансовая дезинформация
Портал Money.com проверил работу ChatGPT, ответив на 100 финансовых вопросов. Результаты оказались неутешительными: только 65% ответов были полностью корректными, 29% – неполными или вводящими в заблуждение, а 6% – откровенно неверными. Система ссылалась на ненадежные личные блоги, не упоминала об изменениях в законодательстве и не отговаривала пользователей от рискованных стратегий вроде "поймать момент на рынке".
Юридические «галлюцинации»
В юридической сфере ситуация еще хуже. Исследование RegLab Стэнфордского университета, в ходе которого было проанализировано более 200 000 юридических запросов, выявило, что уровень "галлюцинаций" у современных моделей колеблется от 69% до 88%. При цитировании судебных решений ИИ ошибался как минимум в 75% случаев. Существует даже специальная база данных "AI Hallucination Cases Database", в которой задокументировано 439 судебных дел, где в официальных документах использовался сгенерированный ИИ контент с вымышленными фактами.
Фактор «Опыта»: то, что ИИ не сможет скопировать
В декабре 2022 года Google расширил свою концепцию E-A-T (Экспертиза, Авторитетность, Доверие) до E-E-A-T, добавив на первое место "Experience" – Опыт.
Теперь руководство Google задает вопрос: "Демонстрирует ли контент наглядно личный опыт и глубину знаний (например, опыт, полученный в результате использования продукта или услуги, посещения места)?". Этот вопрос нацелен прямо в слабое место ИИ. Языковая модель может сгенерировать технически точный текст, похожий на выдержку из учебника, но она не может поделиться инсайтами практикующего специалиста.
ИИ может дать определение височно-нижнечелюстного суставного расстройства (ВНЧС). Но только специалист, который ежедневно лечит пациентов с этой проблемой, может ответить на реальные вопросы людей: как проходит восстановление, какие ошибки чаще всего совершают пациенты, когда стоит обратиться к узкому специалисту, а когда – к своему стоматологу. Это и есть "Опыт" в E-E-A-T – продемонстрированное понимание реальных сценариев и потребностей.
Проблема гомогенизации: как ИИ делает контент одинаковым
Когда все используют одни и те же инструменты, контент становится неотличимым друг от друга. Исследователи из UCLA называют это "смертельной спиралью гомогенизации". LLM по умолчанию стремятся к усредненным предпочтениям, предсказывая наиболее статистически вероятные слова.
Исследователи из Оксфорда и Кембриджа продемонстрировали это на примере. Когда они обучали ИИ-модель на изображениях разных пород собак, система со временем стала генерировать только самые распространенные породы, что в итоге привело к "коллапсу модели". Для YMYL-тем, где уникальная экспертиза является конкурентным преимуществом, такое сближение губительно. Если три финансовых консультанта используют ChatGPT для написания статьи об инвестициях, их контент будет поразительно похож. У Google и пользователей не будет причин предпочесть один материал другому.
Стратегический выбор: ИИ как инструмент, а не автор
Организации, работающие с YMYL-контентом, стоят перед выбором: инвестировать в настоящую экспертизу и уникальные перспективы или рисковать алгоритмическими санкциями и репутационным ущербом.
Ценность YMYL-контента заключается в знаниях, которые нельзя просто скопировать из существующих источников. Она исходит от хирурга, который знает, какие вопросы задают пациенты перед каждой операцией; от финансового советника, который провел клиентов через несколько рецессий; от адвоката, который видел, какие аргументы работают перед какими судьями.
Это не означает, что от ИИ нужно полностью отказаться. Его можно и нужно использовать как мощный инструмент-помощник для эксперта:
- Структурирование мыслей. ИИ может помочь организовать знания эксперта в логичную структуру статьи.
- Поиск информации. Использовать для первичного сбора данных, которые затем будут тщательно проверены и дополнены экспертом.
- Редактирование и корректура. Улучшение читаемости текста, исправление грамматических ошибок.
- Генерация идей. Мозговой штурм для поиска тем и подзаголовков.
Ключевое отличие – в подходе. Эксперты не просят ИИ написать за них контент. Они используют его, чтобы организовать свои знания и сделать их доступными для аудитории. Издатели, которые рассматривают YMYL-контент как игру на количество, будь то с помощью ИИ или низкоквалифицированных авторов, идут по очень сложному пути. Те же, кто относится к нему как к сигналу доверия и авторитетности, строят устойчивую и долгосрочную модель успеха.
