Ученые из Массачусетского технологического института провели интересный эксперимент, показавший, что нейросети формируют собственное восприятие окружающего мира, отличное от человеческого. Результаты опубликованы в журнале Nature Neuroscience.
Человеческий мозг умеет распознавать объекты, несмотря на различия – например, собаку, какой бы масти она ни была. Нейронные сети тоже могут научиться этому. Однако оказалось, что для них совершенно разные изображения или звуки могут казаться одинаковыми.
Чтобы проверить это, ученые попросили нейросети сгенерировать изображение или звук, который они отнесут к одной категории с заданной – скажем, фотографией медведя. Большинство результатов оказались совершенно неузнаваемы для человека – хаотичные пиксели или шум.
Это значит, что нейросети вырабатывают свои собственные "инварианты" – уникальные особенности распознавания. Они реагируют одинаково на очень разные стимулы, непохожие для нас. При этом инварианты у разных моделей тоже отличаются.
Таким образом, сравнивая ответы нейросетей и людей, можно оценить, насколько точно та или иная модель имитирует человеческое восприятие. Это важно для разработки и улучшения систем искусственного интеллекта.
Исследование проливает свет на особенности глубокого обучения нейросетей и их сходства и различия с биологическими системами. Ученые намерены продолжить изучение данной темы.
