Команда экспертов по машинному обучению из компании Apple опубликовала исследование, которое ставит под сомнение "способности к рассуждению" самых мощных речевых моделей современности. Ученые утверждают: индустрия ИИ преувеличивает возможности своих топовых разработок.
Исследователи Apple подвергли жесткой критике заявления компаний вроде OpenAI о том, что их самые современные модели умеют "рассуждать". Команда во главе с Сэми Бенджио, директором по исследованиям искусственного интеллекта в Apple, назвала такие утверждения "иллюзией мышления".
Особенно интересно это звучит из уст Apple, которую часто обвиняют в отставании от конкурентов в сфере ИИ. Компания выбрала более осторожный подход к интеграции технологии в свои продукты, что пока дает смешанные результаты.
Используя "контролируемые среды головоломок", команда Apple оценила способность ИИ-моделей к "мышлению". Результаты оказались потрясающими.
"Через масштабные эксперименты с разнообразными головоломками мы показали, что передовые модели сталкиваются с полным коллапсом точности после определенного уровня сложности", – отметили авторы исследования.
Даже при достаточном обучении модели не справляются с проблемами, превышающими определенный порог сложности. Исследователи назвали это феноменом "чрезмерного обдумывания".
Эти выводы особенно болезненны на фоне того, что в разработку ИИ-технологий вкладываются десятки миллиардов долларов. Такие гиганты как OpenAI, Google и Meta строят огромные дата-центры для работы все более энергоемких моделей искусственного интеллекта.
Исследование Apple показало, что современные модели имеют ограничения в точных вычислениях. Они не используют четкие алгоритмы и непоследовательно рассуждают при решении различных головоломок.
Парадоксально, но именно тогда, когда исследователи Apple критикуют текущую траекторию развития ИИ, компания обещает выпустить пакет инструментов Apple Intelligence для своих устройств.
Научная работа Apple ставит фундаментальные вопросы об истинных возможностях рассуждения современных ИИ-моделей. Исследователи предполагают, что текущие подходы могут сталкиваться с принципиальными барьерами для обобщенного мышления. Означает ли это, что индустрия искусственного интеллекта "ударилась о стену", покажет время.
