Компания Stability AI представила новую версию своего фотогенератора Stable Diffusion 3 Medium. Однако вместо того, чтобы создавать более реалистичные изображения людей, ИИ начал генерировать настоящих мутантов.
Новая модель обещала гиперреалистичные фото
Stability AI рекламировала свою новую модель как самую совершенную на сегодняшний день. Она должна была исправить типичные ошибки в изображении рук и лиц.
Однако на практике вышло совсем не так. Пользователи жалуются, что вместо людей ИИ создаёт мутантов с искажёнными конечностями. У персонажей могут быть дополнительные ноги и руки или вовсе отсутствовать голова.
Причина в ограниченных данных для обучения
Вероятно, проблема в том, что разработчики слишком сильно отфильтровали обучающую выборку. Они хотели избежать создания непристойного контента. Но в итоге удалили практически все изображения людей.
Из-за нехватки примеров для обучения ИИ не может корректно синтезировать человеческое тело. Он пытается собрать его из обрывков как пазл, но в итоге получаются мутанты.
Конкуренты опережают
Тем временем конкурирующие модели вроде DALL-E 3 и Midjourney уже научились генерировать нужное количество пальцев на руках. А Stable Diffusion 3 Medium даже с этой базовой задачей не справляется.
Компания не комментирует ситуацию
Пока Stability AI никак не прокомментировала проблемы своей новой модели. В то же время в Сети ходят слухи о том, что из-за провала компания может объявить о банкротстве.
