Учені з Массачусетського технологічного інституту провели цікавий експеримент, який показав, що нейромережі формують власне сприйняття навколишнього світу, відмінне від людського. Результати опубліковано в журналі Nature Neuroscience.
Людський мозок вміє розпізнавати об'єкти, незважаючи на відмінності - наприклад, собаку, якої б масті він не був. Нейронні мережі теж можуть навчитися цього. Однак виявилося, що для них абсолютно різні зображення або звуки можуть здаватися однаковими.
Щоб перевірити це, вчені попросили нейромережі згенерувати зображення або звук, який вони віднесуть до однієї категорії із заданою – скажімо, фотографією ведмедя. Більшість результатів виявилися абсолютно невпізнанними для людини – хаотичні пікселі або шум.
Це означає, що нейромережі виробляють свої власні "інваріанти" – унікальні особливості розпізнавання. Вони реагують однаково на дуже різні стимули, несхожі для нас. При цьому інваріанти у різних моделей теж відрізняються.
Таким чином, порівнюючи відповіді нейромереж і людей, можна оцінити, наскільки точно та чи інша модель імітує людське сприйняття. Це важливо для розробки та поліпшення систем штучного інтелекту.
Дослідження проливає світло на особливості глибокого навчання нейромереж і їхні подібності та відмінності з біологічними системами. Вчені мають намір продовжити вивчення цієї теми.
