Компанія Stability AI представила нову версію свого фотогенератора Stable Diffusion 3 Medium. Однак замість того, щоб створювати більш реалістичні зображення людей, ШІ почав генерувати справжніх мутантів.
Нова модель обіцяла гіперреалістичні фото
Stability AI рекламувала свою нову модель як найдосконалішу на сьогоднішній день. Вона мала виправити типові помилки в зображенні рук і облич.
Однак на практиці вийшло зовсім не так. Користувачі скаржаться, що замість людей ШІ створює мутантів зі спотвореними кінцівками. У персонажів можуть бути додаткові ноги і руки або зовсім відсутня голова.
Причина в обмежених даних для навчання
Ймовірно, проблема в тому, що розробники занадто сильно відфільтрували навчальну вибірку. Вони хотіли уникнути створення непристойного контенту. Але в підсумку видалили практично всі зображення людей.
Через брак прикладів для навчання ШІ не може коректно синтезувати людське тіло. Він намагається зібрати його з уривків як пазл, але в підсумку виходять мутанти.
Конкуренти випереджають
Тим часом конкуруючі моделі на кшталт DALL-E 3 і Midjourney вже навчилися генерувати потрібну кількість пальців на руках. А Stable Diffusion 3 Medium навіть із цим базовим завданням не справляється.
Компанія не коментує ситуацію
Поки Stability AI ніяк не прокоментувала проблеми своєї нової моделі. Водночас у Мережі ходять чутки про те, що через провал компанія може оголосити про банкрутство.
