Плагіни дозволять компаніям пропонувати для своїх продуктів обробник природної мови на основі ШІ, що дозволить користувачам ставити детальні запитання та отримувати на них людські відповіді.
OpenAI, компанія Microsoft, яка розробила ChatGPT, у четвер оголосила про підтримку плагінів, призначених для того, щоб компанії могли легше вбудовувати функціонал чат-ботів у свої продукти.
Перші плагіни вже створили Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram і Zapier, повідомляє OpenAI.
"Ми поступово впроваджуємо плагіни в ChatGPT, щоб вивчити їхнє реальне використання, вплив, а також проблеми з безпекою та узгодженням – все те, що ми повинні зробити правильно, щоб досягти нашої місії", – йдеться в блозі компанії OpenAI, що базується в Сан-Франциско.
Для чого ChatGPT плагіни?
Плагіни OpenAI – це інструменти, розроблені спеціально для мовних моделей, які допомагають ChatGPT отримувати доступ до актуальної інформації, виконувати обчислення або використовувати сторонні сервіси.
Плагіни вперше дозволяють ChatGPT Plus отримати доступ до живих веб-даних, а не до інформації, на якій вже була навчена велика мовна модель.
Користувачі можуть натиснути і завантажити будь-яку кількість поточних плагінів, що пропонуються. Наприклад, користувачі служби доставки продуктів Instacart можуть завантажити плагіни ChatGPT і почати використовувати процесор природної мови, щоб запитувати його про такі речі, як рекомендації ресторанів, рецепти, інгредієнти для їжі та загальну калорійність страви.
Приклад питання може бути таким: "Я шукаю веганську їжу в Сан-Франциско на цих вихідних. Чи можете ви запропонувати мені чудовий ресторан на суботу, а також простий рецепт страви на неділю (тільки інгредієнти)? Будь ласка, підрахуйте калорійність рецепта за допомогою WolframAlpha".
"Користувачі просять плагіни відтоді, як ми запустили ChatGPT (і багато розробників експериментують зі схожими ідеями), тому що вони відкривають широкий спектр можливих варіантів використання", – зазначили в OpenAI.
Розробник генеративного ШІ заявив, що планує поступово розгортати більш масштабний доступ, оскільки він дізнається більше від розробників плагінів, користувачів ChatGPT і після завершення альфа-версії.
Плагіни вирішать основну проблему ChatGPT
Арун Чандрасекаран, віце-президент-аналітик Gartner, сказав, що однією з проблем таких додатків, як ChatGPT, і моделей ШІ, що лежать в їх основі (наприклад, GPT-4), є їх статичний характер; це виникає через розрив між датами закінчення навчання для компаній і фактичними датами випуску моделей додатків.
"Завдяки екосистемі плагінів, ChatGPT тепер може обробляти більше інформації в режимі реального часу з набору кураторських джерел", – сказав Чандрасекаран. "Вони анонсуються як плагіни, які дозволяють ChatGPT підключатися до інтернет-джерел для надання більш актуальної інформації, так і сторонніх джерел, таких як Expedia, OpenTable".
OpenAI визнала "значні нові ризики", пов'язані з включенням зовнішніх інструментів через ChatGPT.
"Плагіни пропонують потенціал для вирішення різних проблем, пов'язаних з великими мовними моделями, включаючи "галюцинації", відстеження останніх подій і доступ (з дозволу) до пропрієтарних джерел інформації", – заявили в OpenAI.
Компанія повідомила, що дозволила лише обмеженій кількості розробників плагінів, які були в списку очікування, отримати доступ до документації, яку вони могли б використовувати для створення плагіна для ChatGPT. Таким чином, OpenAI може відстежувати будь-які негативні наслідки від плагінів.
Наприклад, компанія з кібербезпеки GreyNoise.io попередила про відому вразливість, пов'язану з платформою зберігання об'єктів MinIO, у своєму блозі в п'ятницю.
Розробникам, які використовують MinIO і хочуть інтегрувати свої плагіни, рекомендується перейти на виправлену версію MinIO, йдеться в блозі. "Ваша кінцева точка врешті-решт буде зламана, якщо ви не оновите шар до останньої версії MinIO", - заявили в компанії.
Хоча розробники додатків вже мали змогу використовувати API ChatGPT, щоб адаптувати його для використання з продуктами, плагіни значно спростять це завдання, каже Чіраг Шах, професор науки про дані та машинного навчання у Вашингтонському університеті.
"API вимагають технічних ноу-хау. Як і у випадку з соціальними мережами, існують інші способи доступу до послуг через підписку. Плагіни дозволяють людям легко розгортати ChatGPT без особливих зусиль, – каже Шах. "Вони не підійдуть для кожної компанії. Вони орієнтовані на певну аудиторію".
Обмеженість мовної моделі LLM
OpenAI визнала, що її велика мовна модель GPT (LLM) обмежена в тому, що вона може робити сьогодні, тому що вона не була навчена всій новітній актуальній інформації для безлічі додатків в Інтернеті. Наприклад, комп'ютерний алгоритм LLM, на якому вона навчається, має мільярди параметрів, але вони не є специфічними для того, що може знадобитися користувачам Expedia, наприклад.
Наразі єдиний спосіб навчання GPT-4 – це навчальні дані, введені організацією-користувачем. Наприклад, якщо банк хоче використовувати ChatGPT для своїх внутрішніх працівників і зовнішніх клієнтів, йому потрібно буде ввести інформацію про компанію, щоб, коли користувачі ставитимуть запитання чат-боту, він міг надавати відповіді, характерні для банку.
Плагіни полегшують доступ до інформації про продукти компанії, яка в іншому випадку може бути занадто свіжою, занадто особистою або занадто специфічною, щоб бути включеною в навчальні дані, для LLM ChatGPT.
"У відповідь на явний запит користувача плагіни також можуть дозволити мовним моделям виконувати безпечні, обмежені дії від його імені, підвищуючи корисність системи в цілому", – зазначили в OpenAI. "Ми очікуємо, що з'являться відкриті стандарти, які уніфікують способи, за допомогою яких додатки надають інтерфейс для роботи зі штучним інтелектом. Ми працюємо над першими спробами того, як може виглядати такий стандарт, і чекаємо відгуків від розробників, зацікавлених у співпраці з нами".
