Використання ШІ для написання текстів для сайтів YMYL пов'язане з високими ризиками через проблеми з точністю та достовірністю. Дослідження показують, що ШІ-моделі часто генерують непідтверджену інформацію в критично важливих сферах, таких як медицина, фінанси та право. Алгоритми Google, особливо після посилення ролі E-E-A-T (Досвід, Експертиза, Авторитетність, Довіра), віддають перевагу контенту, який демонструє реальний людський досвід, чого штучний інтелект симулювати не в змозі.
Нові «правила гри» для контенту з високою відповідальністю
Березневе оновлення основного алгоритму Google у 2024 році серйозно вплинуло на багато сайтів, але особливо сильно постраждали ресурси з ніші YMYL – "Your Money or Your Life" ("Ваші гроші або ваше життя"). Google очікував скорочення низькоякісного, неоригінального контенту в пошуковій видачі на 40%, і сайти фінансової та медичної тематики опинилися серед найбільш постраждалих. Ця подія вкотре підкреслила, що до YMYL-контенту пошукові системи застосовують найсуворіші стандарти.
До категорій YMYL відносяться теми, здатні безпосередньо вплинути на здоров'я, фінансову стабільність, безпеку і благополуччя людей. Це медичні поради, фінансові консультації, юридична інформація, новини тощо. У цій статті ми розберемо, чому сліпа довіра до ШІ при створенні такого контенту може призвести не тільки до втрати позицій у пошуку, але й до більш серйозних наслідків.
Чому Google так пильно стежить за YMYL?
Пошукова система несе відповідальність за якість наданої інформації. Помилка в рецепті торта може зіпсувати вечерю, а неправильна медична порада – коштувати людині здоров'я.
У посібнику для асесорів якості пошуку Google прямо вказано, що для сторінок з явною YMYL-тематикою застосовуються «дуже високі стандарти оцінки якості», і вони «вимагають найбільш ретельної перевірки». Для таких запитів Google надає «більшу вагу в системах ранжування таким факторам, як наше розуміння авторитетності, експертності та достовірності сторінок». Це створює дворівневу систему: якщо для звичайного контенту достатньо «повсякденного досвіду», то для YMYL потрібен «надзвичайно високий» рівень E-E-A-T. Контент з неадекватним E-E-A-T отримує найнижчу оцінку якості.
Ненадійність ШІ: чому машини провалюють перевірку на факти
Незважаючи на стрімкий розвиток, великі мовні моделі (LLM) все ще не є надійним джерелом для тем, де ціна помилки висока. Вони навчені передбачати наступне найбільш ймовірне слово в послідовності, а не перевіряти факти. Це призводить до великої кількості помилок, дезінформації та «галюцинацій».
Ось лише кілька напрямків, де ШІ демонструє свою неспроможність:
- Медичні неточності;
- Фінансова дезінформація;
- Юридичні «галюцинації».
Давайте розглянемо кожен з цих пунктів на основі конкретних досліджень і прикладів.
Медичні неточності
Дослідження Стенфордського інституту штучного інтелекту (Stanford HAI) від лютого 2024 року показало, що навіть просунута модель GPT-4 з технологією RAG (Retrieval-Augmented Generation) генерує непідтверджені твердження в 30% випадків. Майже 50% відповідей містили щонайменше одне таке твердження. В одному з випадків модель дала інструкцію щодо використання невідповідного типу медичного обладнання, що в реальній ситуації могло б завдати шкоди пацієнту.
Показовим є випадок із журналом Men's Journal, який у 2023 році опублікував свою першу статтю про здоров'я, згенеровану ШІ. Доктор Бредлі Анавальт з Медичного центру Вашингтонського університету виявив у ній 18 конкретних помилок. Він охарактеризував матеріал як такий, що містить «постійні фактичні помилки та перекручення медичної науки», включаючи ототожнення різних медичних термінів і надання необґрунтованих попереджень про здоров'я. Небезпека полягає в тому, що такі тексти «мають достатню близькість до наукових даних, щоб звучати правдоподібно», і звичайний читач не здатний відрізнити правду від вигадки.
Фінансова дезінформація
Портал Money.com перевірив роботу ChatGPT, відповівши на 100 фінансових питань. Результати виявилися невтішними: тільки 65% відповідей були повністю коректними, 29% – неповними або такими, що вводять в оману, а 6% – відверто невірними. Система посилалася на ненадійні особисті блоги, не згадувала про зміни в законодавстві і не відмовляла користувачів від ризикованих стратегій на кшталт «спробувати зловити момент на ринку».
Юридичні «галюцинації»
У юридичній сфері ситуація ще гірша. Дослідження RegLab Стенфордського університету, в ході якого було проаналізовано понад 200 000 юридичних запитів, виявило, що рівень «галюцинацій» у сучасних моделей коливається від 69% до 88%. При цитуванні судових рішень ШІ помилявся як мінімум у 75% випадків. Існує навіть спеціальна база даних «AI Hallucination Cases Database», в якій задокументовано 439 судових справ, де в офіційних документах використовувався згенерований ШІ контент з вигаданими фактами.
Фактор «Досвіду»: те, що ШІ не зможе скопіювати
У грудні 2022 року Google розширив свою концепцію E-A-T (Експертиза, Авторитетність, Довіра) до E-E-A-T, додавши на перше місце "Experience" – Досвід.
Тепер керівництво Google ставить запитання: «Чи демонструє контент наочний особистий досвід і глибину знань (наприклад, досвід, отриманий в результаті використання продукту або послуги, відвідування місця)?». Це питання націлене прямо на слабке місце ШІ. Мовна модель може згенерувати технічно точний текст, схожий на витяг з підручника, але вона не може поділитися інсайтами практикуючого фахівця.
ШІ може дати визначення скронево-нижньощелепного суглобового розладу (СНЩС). Але тільки фахівець, який щодня лікує пацієнтів з цією проблемою, може відповісти на реальні питання людей: як проходить відновлення, які помилки найчастіше роблять пацієнти, коли варто звернутися до вузького фахівця, а коли – до свого стоматолога. Це і є «Досвід» в E-E-A-T – продемонстроване розуміння реальних сценаріїв і потреб.
Проблема гомогенізації: як ШІ робить контент однаковим
Коли всі використовують одні й ті ж інструменти, контент стає не відрізнимим один від одного. Дослідники з UCLA називають це «смертельною спіраллю гомогенізації». LLM за замовчуванням прагнуть до усереднених уподобань, передбачаючи найбільш статистично ймовірні слова.
Дослідники з Оксфорда і Кембриджа продемонстрували це на прикладі. Коли вони навчали ШІ-модель на зображеннях різних порід собак, система з часом стала генерувати тільки найпоширеніші породи, що в підсумку призвело до «колапсу моделі». Для YMYL-тем, де унікальна експертиза є конкурентною перевагою, таке зближення є згубним. Якщо три фінансових консультанти використовують ChatGPT для написання статті про інвестиції, їхній контент буде разюче схожим. У Google і користувачів не буде причин віддати перевагу одному матеріалу над іншим.
Стратегічний вибір: ШІ як інструмент, а не автор
Організації, що працюють з YMYL-контентом, стоять перед вибором: інвестувати в справжню експертизу та унікальні перспективи або ризикувати алгоритмічними санкціями та репутаційними збитками.
Цінність YMYL-контенту полягає в знаннях, які не можна просто скопіювати з існуючих джерел. Вона походить від хірурга, який знає, які питання задають пацієнти перед кожною операцією; від фінансового радника, який провів клієнтів через кілька рецесій; від адвоката, який бачив, які аргументи працюють перед якими суддями.
Це не означає, що від ШІ потрібно повністю відмовитися. Його можна і потрібно використовувати як потужний інструмент-помічник для експерта:
- Структурування думок. ШІ може допомогти організувати знання експерта в логічну структуру статті.
- Пошук інформації. Використовувати для первинного збору даних, які потім будуть ретельно перевірені та доповнені експертом.
- Редагування та коректура. Поліпшення читабельності тексту, виправлення граматичних помилок.
- Генерація ідей. Мозковий штурм для пошуку тем і підзаголовків.
Ключова відмінність – у підході. Експерти не просять ШІ написати за них контент. Вони використовують його, щоб організувати свої знання і зробити їх доступними для аудиторії. Видавці, які розглядають YMYL-контент як гру на кількість, чи то за допомогою ШІ, чи то за допомогою низькокваліфікованих авторів, йдуть дуже складним шляхом. Ті ж, хто ставиться до нього як до сигналу довіри та авторитетності, будують стійку і довгострокову модель успіху.
