Год назад мир охватила волна восторга от новой игрушки – ChatGPT. Но знаем ли мы, что именно кроется за яркими обещаниями искусственного интеллекта? Доктор Абеба Бирхане, ведущий эксперт по этике ИИ, считает, что эйфория вокруг генеративных алгоритмов может обернуться серьезными проблемами для общества.
Подводные камни хайпа
Сегодня генеративный искусственный интеллект на пике популярности. Однако, по словам Бирхане, люди часто не замечают серьезных недостатков этих технологий. Например, языковые модели нередко "галлюцинируют", генерируя правдоподобную, но ложную информацию. Такая ситуация может вызвать проблемы в сферах образования, медицины и правоохранительных органов.
Особенно острой остается проблема предвзятости ИИ. Алгоритмы, обученные на открытых данных из интернета, часто усиливают стереотипы и дискриминацию. Бирхане напоминает, что за последние годы в США зафиксировано по меньшей мере шесть случаев ложного обвинения людей из-за некорректной работы системы распознавания лиц. Все пострадавшие имели темный цвет кожи.
Бизнес превыше всего?
Несмотря на попытки регулирования, корпорации, такие как Microsoft, OpenAI и Meta, активно участвуют в разработке регуляторных документов, создавая конфликт интересов. Это напоминает ситуацию, когда исследования вреда от курения поручают табачным компаниям, отмечает Бирхане.
Впрочем, не все так плохо. Есть примеры, когда общины используют искусственный интеллект в благородных целях. В Новой Зеландии народ Маори самостоятельно создал систему распознавания речи, чтобы сохранить язык, который вымирает из-за колонизации. Этот проект наглядно демонстрирует, что технологии могут служить людям, если изменить приоритеты с прибыли на пользу для общества.
Генеративный ИИ имеет потенциал помогать человечеству, но только если контролировать его развитие будет не коммерческая выгода, а ответственность и социальная справедливость.
Источник: Siliconrepublic
