Нова адаптація "Франкенштейна" від Гільєрмо дель Торо на Netflix слугує потужним культурним попередженням. Проте справжній урок історії Мері Шеллі не в тому, що "не варто створювати небезпечні речі", а в тому, що "не можна кидати те, що створив". Сьогоднішні розробники штучного інтелекту стоять перед тим самим вибором, що й Віктор Франкенштейн – відповідальність чи зречення.
Проблема вже не є теоретичною. "Галюцинації" штучного інтелекту – впевнені, але повністю сфабриковані відповіді – проникають у критичні сфери. Нещодавно апеляційний суд Каліфорнії оштрафував юриста на 10 000 доларів після того, як 21 із 23 наведених ним судових цитат виявилися вигадкою ШІ. В іншому випадку, в Джорджії, ціле рішення про розлучення було скасовано через 11 фальшивих цитат.
Це не просто поодинокі збої. Це фундаментальна вада сучасних систем.
Неминучість "галюцинацій"
Автори статті, Дов Грінбаум, професор права з Університету Райхмана, та Марк Герштейн, професор біомедичної інформатики з Єльського університету, наголошують на ключовій проблемі. На відміну від калькулятора, який завжди дає правильний результат, сучасний ШІ не може бути доказово коректним.
Нещодавнє дослідження (яке автори пов'язують із журналом Science) підтверджує, що правдоподібні неправдиві відомості є неминучими в поточних архітектурах. Системи навчені "передбачати те, що звучить правдоподібно, а не перевіряти, що є правдою". Як висловився один дослідник ШІ, спроба змусити модель визнавати свою непевність може просто "вбити продукт".
Ці помилки не зникають. Вони потрапляють у бази даних, стають прецедентами та навіть "згодовуються" для навчання майбутніх моделей. "Сьогоднішні галюцинації стають завтрашніми фактами", – застерігають автори.
Фармацевтична модель регулювання
Як вирішити цю проблему, не пригнічуючи інновації? Грінбаум і Герштейн пропонують звернутися до моделі, перевіреної часом, – регулювання фармацевтичних препаратів.
Фармацевтичні компанії не можуть передбачити всі біологічні ефекти, тому вони проводять ретельні випробування. Навіть після схвалення, постійний моніторинг залишається життєво необхідним. Яскравий приклад – препарат Vioxx, який був відкликаний з ринку після того, як нагляд виявив, що він фактично подвоїв ризик серцевих нападів та інсультів, що, за оцінками FDA, могло призвести до десятків тисяч трагедій.
Автори пропонують аналогічну триступеневу структуру для ШІ:
- Стандарти навчання. Чіткі вимоги до походження навчальних даних та моніторинг "забруднення" синтетичним контентом.
- Тестування перед розгортанням. Структуровані випробування для систем у сферах із високими ставками (право, медицина, фінанси) для фіксації частоти помилок.
- Постійний нагляд. Еквівалент фармаконагляду для відстеження "побічних ефектів" ШІ та вилучення небезпечних систем з ринку.
Виклик для інновацій
Автори визнають, що регулювання – це складний баланс. Акт ЄС про ШІ (EU's AI Act) є прикладом того, як надмірна бюрократія може стати непідйомною для малих стартапів, водночас великі корпорації легко впораються з юридичними витратами.
Рішенням може стати "градуйований нагляд". Вимоги та витрати мають масштабуватися відповідно до продемонстрованої шкоди. Якщо система має низький рівень помилок, вона отримує легший моніторинг; якщо високий – жорсткіші вимоги до виправлення або повне вилучення з ринку.
Відповідальне управління не може бути добровільним. Урок Мері Шеллі, що пролунав знову у стрічці дель Торо, залишається невідкладним. Питання не в тому, чи створювати потужний ШІ – ми його вже створюємо. Питання в тому, чи готові ми взяти на себе відповідальність за створене.
