Плагины позволят компаниям предлагать для своих продуктов обработчик естественной речи на основе ИИ, что позволит пользователям задавать подробные вопросы и получать на них человеческие ответы.
OpenAI, компания Microsoft, которая разработала ChatGPT, в четверг объявила о поддержке плагинов, предназначенных для того, чтобы компании могли легче встраивать функционал чат-ботов в свои продукты.
Первые плагины уже создали Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram и Zapier, сообщает OpenAI.
"Мы постепенно внедряем плагины в ChatGPT, чтобы изучить их реальное использование, влияние, а также проблемы с безопасностью и согласованием – все то, что мы должны сделать правильно, чтобы достичь нашей миссии", – говорится в блоге компании OpenAI, базирующейся в Сан-Франциско.
Для чего ChatGPT плагины?
Плагины OpenAI – это инструменты, разработанные специально для языковых моделей, которые помогают ChatGPT получать доступ к актуальной информации, выполнять вычисления или использовать сторонние сервисы.
Плагины впервые позволяют ChatGPT Plus получить доступ к живым веб-данным, а не к информации, на которой уже была обучена большая языковая модель.
Пользователи могут нажать и загрузить любое количество предлагаемых текущих плагинов. Например, пользователи службы доставки продуктов Instacart могут загрузить плагины ChatGPT и начать использовать процессор естественного языка, чтобы спрашивать его о таких вещах, как рекомендации ресторанов, рецепты, ингредиенты для еды и общую калорийность блюда.
Пример вопроса может быть таким: "Я ищу веганскую еду в Сан-Франциско на этих выходных. Можете ли вы предложить мне отличный ресторан на субботу, а также простой рецепт блюда на воскресенье (только ингредиенты)? Пожалуйста, подсчитайте калорийность рецепта с помощью WolframAlpha".
"Пользователи просят плагины с тех пор, как мы запустили ChatGPT (и многие разработчики экспериментируют с похожими идеями), потому что они открывают широкий спектр возможных вариантов использования", – отметили в OpenAI.
Разработчик генеративного ИИ заявил, что планирует постепенно развертывать более масштабный доступ, поскольку он узнает больше от разработчиков плагинов, пользователей ChatGPT и после завершения альфа-версии.
Плагины решат основную проблему ChatGPT
Арун Чандрасекаран, вице-президент-аналитик Gartner, сказал, что одной из проблем таких приложений, как ChatGPT, и лежащих в их основе моделей ИИ (например, GPT-4), является их статический характер; это возникает из-за разрыва между датами окончания обучения для компаний и фактическими датами выпуска моделей приложений.
"Благодаря экосистеме плагинов, ChatGPT теперь может обрабатывать больше информации в режиме реального времени из набора кураторских источников", – сказал Чандрасекаран. "Они анонсируются как плагины, которые позволяют ChatGPT подключаться к интернет-источникам для предоставления более актуальной информации, так и сторонних источников, таких как Expedia, OpenTable".
OpenAI признала "значительные новые риски", связанные с включением внешних инструментов через ChatGPT.
"Плагины предлагают потенциал для решения различных проблем, связанных с большими языковыми моделями, включая "галлюцинации", отслеживание последних событий и доступ (с разрешения) к проприетарным источникам информации", - заявили в OpenAI.
Компания сообщила, что позволила лишь ограниченному количеству разработчиков плагинов, которые были в списке ожидания, получить доступ к документации, которую они могли бы использовать для создания плагина для ChatGPT. Таким образом, OpenAI может отслеживать любые негативные последствия от плагинов.
Например, компания по кибербезопасности GreyNoise.io предупредила об известной уязвимости, связанной с платформой хранения объектов MinIO, в своем блоге в пятницу.
Разработчикам, которые используют MinIO и хотят интегрировать свои плагины, рекомендуется перейти на исправленную версию MinIO, говорится в блоге. "Ваша конечная точка в конце концов будет сломана, если вы не обновитеслой до последней версии MinIO", – заявили в компании.
Хотя разработчики приложений уже имели возможность использовать API ChatGPT, чтобы адаптировать его для использования с продуктами, плагины значительно упростят эту задачу, говорит Чираг Шах, профессор науки о данных и машинного обучения в Вашингтонском университете.
"API требуют технических ноу-хау. Как и в случае с социальными сетями, существуют другие способы доступа к услугам через подписку. Плагины позволяют людям легко развернуть ChatGPT без особых усилий, - говорит Шах. "Они не подойдут для каждой компании. Они ориентированы на определенную аудиторию".
Ограниченность языковой модели LLM
OpenAI признала, что ее большая языковая модель GPT (LLM) ограничена в том, что она может делать сегодня, потому что она не была обучена всей новейшей актуальной информации для множества приложений в Интернете. Например, компьютерный алгоритм LLM, на котором она обучается, имеет миллиарды параметров, но они не являются специфическими для того, что может понадобиться пользователям Expedia, например.
На данный момент единственный способ обучения GPT-4 – это учебные данные, введенные организацией-пользователем. Например, если банк хочет использовать ChatGPT для своих внутренних сотрудников и внешних клиентов, ему нужно будет ввести информацию о компании, чтобы, когда пользователи будут задавать вопросы чат-боту, он мог предоставлять ответы, характерные для банка.
Плагины облегчают доступ к информации о продуктах компании, которая в противном случае может быть слишком свежей, слишком личной или слишком специфической, чтобы быть включенной в учебные данные, для LLM ChatGPT.
"В ответ на явный запрос пользователя плагины также могут позволить языковым моделям выполнять безопасные, ограниченные действия от его имени, повышая полезность системы в целом", – отметили в OpenAI. "Мы ожидаем, что появятся открытые стандарты, которые унифицируют способы, с помощью которых приложения предоставляют интерфейс для работы с искусственным интеллектом. Мы работаем над первыми попытками того, как может выглядеть такой стандарт, и ждем отзывов от разработчиков, заинтересованных в сотрудничестве с нами".
