Искусственный интеллект продолжает оставаться одной из топ-тем во всех мировых СМИ. Одни называют ИИ прорывом, сравнимым с изобретением мирового интернета, другие считают, что это не более, чем “надутый мыльный пузырь”. Эксперты, которые имеют вторую точку зрения, приводят тревожную тенденцию – искусственный интеллект может быть обучен контентом, созданным другим ИИ. Специалисты по машинному обучению называют это "коллапсом модели".
Рекомендуем прочитать: Стивен Кинг кормит ИИ своими страшилками
Нужен ли человечеству плохой искусственный интеллект?
Это выглядит так: модели ИИ просто сожрут сами себя в бесконечном цикле итераций обучения. Порочный круг автоматического обучения на синтетических данных неизбежно приведет к ухудшению качества.
Например, ChatGPT будет учиться на данных, созданных Google Bard, или наоборот – не суть важно. Ответы ИИ станут все менее осмысленными, в них не будет никакого творческого потенциала.
Поэтому и растет тревога, насчет того, что будет с ChatGPT и подобными инструментами ИИ? Смогут ли они избежать замкнутого круга бессмысленности?
Последствия для общества
Если тенденция сохранится, это может иметь серьезные последствия. Доверие к источникам информации пошатнется, а проверить подлинность контента станет невозможно.
Уже сейчас в интернете распространяются тысячи статей, сгенерированных ИИ без человеческого контроля или с минимальным контролем. Они содержат ошибки и дезинформируют людей.
Что делать?
Пока неясно, можно ли предотвратить "коллапс модели" в ИИ. Но разработчики должны искать решения, чтобы сохранить пользу от этих технологий для общества.
Возможно, необходим более тщательный отбор данных для обучения ИИ. Или добавление "человеческого фактора" для проверки сгенерированного контента.
Пусть это и тревожный сигнал, но еще не повод для паники. Если мы подойдем к проблеме осознанно, то сможем найти ответ и избежать серьезных системных проблем в работе интернета и замкнутых IT-систем.
