OpenAI продолжает разработку моделей генеративного ИИ, не до конца понимая принципы их работы.
Глава компании Сэм Альтман сравнил алгоритмы ChatGPT с человеческим разумом. По его словам, ученые не могут объяснить процессы в мозге на уровне нейронов. Так и разработчики ИИ видят результат, но не знают точный механизм.
Признание в незнании
Выступая в Женеве, Альтман признался: его команда не решила проблему интерпретируемости ИИ. Это означает, что они не могут объяснить, как модели принимают решения.
Один из гостей конференции поинтересовался, не опасно ли выпускать все более мощные системы "вслепую". Глава OpenAI ушел от прямого ответа. По его мнению, полное понимание работы ИИ необязательно для продолжения исследований.
«Черный ящик»
Специалисты OpenAI знают, что алгоритмы GPT генерируют новый контент на основе данных и со временем обучаются. Однако нейросетям недоступны эмоции и сознание человека. Сложно проследить ход их мысли и объяснить выводы.
По словам Альтмана, ситуация напоминает изучение мозга: ученые видят связи нейронов, но не понимают сути процессов. Так и в ИИ остается загадкой, как точно работают алгоритмы. Пока что это своего рода "черный ящик" с готовыми ответами.
Безопасность под вопросом
Многие опасаются последствий неконтролируемого развития технологий ИИ. Ранее в OpenAI была команда по безопасности во главе с основателем Ильей Суцкевером. Ее распустили и создали новую под началом Сэма Альтмана.
Бывшие члены совета директоров компании высказали опасение, что прибыль теперь важнее безопасности. Альтман не согласен с этим. По его мнению, только создавая более мощные модели, можно понять принципы работы ИИ и сделать его безопасным.
Пока же в самой передовой компании в сфере ИИ признаются, что не до конца понимают работу собственных разработок. Что ж, быть может скоро «черный ящик» откроется и для самих ученых. А пока ChatGPT и ему подобные системы остаются во многом загадкой.
