Штучний інтелект продовжує залишатися однією з топ-тем у всіх світових ЗМІ. Одні називають ШІ проривом, який можна порівняти з винаходом світового інтернету, інші вважають, що це не більше, ніж "надута мильна бульбашка". Експерти, які мають другу точку зору, наводять тривожну тенденцію – штучний інтелект може бути навчений контентом, створеним іншим ШІ. Фахівці з машинного навчання називають це "колапсом моделі".
Чи потрібен людству поганий штучний інтелект?
Це виглядає так: моделі ШІ просто зжеруть самі себе в нескінченному циклі ітерацій навчання. Порочне коло автоматичного навчання на синтетичних даних неминуче призведе до погіршення якості.
Наприклад, ChatGPT вчитиметься на даних, створених Google Bard, чи навпаки – не суть важливо. Відповіді ШІ стануть дедалі менш осмисленими, у них не буде жодного творчого потенціалу.
Тому й зростає тривога щодо того, що буде з ChatGPT і подібними інструментами ШІ? Чи зможуть вони уникнути замкнутого кола безглуздості?
Наслідки для суспільства
Якщо тенденція збережеться, це може мати серйозні наслідки. Довіра до джерел інформації похитнеться, а перевірити справжність контенту стане неможливо.
Уже зараз в інтернеті поширюються тисячі статей, згенерованих ШІ без людського контролю або з мінімальним контролем. Вони містять помилки та дезінформують людей.
Що робити?
Поки що незрозуміло, чи можна запобігти "колапсу моделі" в ШІ. Але розробники мають шукати рішення, щоб зберегти користь від цих технологій для суспільства.
Можливо, необхідний більш ретельний відбір даних для навчання ШІ. Або додавання "людського фактора" для перевірки згенерованого контенту.
Нехай це і тривожний сигнал, але ще не привід для паніки. Якщо ми підійдемо до проблеми усвідомлено, то зможемо знайти відповідь і уникнути серйозних системних проблем у роботі інтернету і замкнутих IT-систем.
Рекомендуємо прочитати: Терміново! Атака російських хакерів на Польщу. Ціль: фондова біржа, банки та профілі довірених осіб
