Триває інтенсивна робота над розвитком штучного інтелекту. Дослідники зі Стенфордського університету та канадського MILA (Монреальський інститут алгоритмів навчання) розробили нову технологію штучного інтелекту. Очікується, що вона буде працювати в рази швидше і ефективніше, ніж технологія GPT-4, розроблена OpenAI.
Перші випробування технології Hyena показують, що вона може стати наступним проривом у розвитку штучного інтелекту. Автори програмного забезпечення Hyena піддали його різним тестам, один з яких називається The Pile. У його розпорядженні є колекція текстів величезного обсягу – 825 ГБ, що еквівалентно змісту 250 000 книг. Така колекція була створена три роки тому некомерційною організацією Eleuther.ai, яка займається розробкою штучного інтелекту. Колекція містить тексти, завантажені не з Facebook або Twitter, а з професійних джерел, таких як PubMed, GitHub або Патентне відомство США.
Хоча програмне забезпечення Hyena займає набагато менше місця в пам'яті комп'ютера, ніж GPT-4 чи навіть GPT-3, його продуктивність вражає.
Hyena може досягти того ж результату, що й ChatGPT, при цьому виконуючи на 20% менше обчислювальних операцій. Це також має значення, оскільки всі чат-боти надзвичайно вимогливі до ресурсів, необхідних для їх запуску. В інших завданнях Hyena досягла результатів, що дорівнюють або близькі до результатів версії GPT, незважаючи на те, що навчалася на вдвічі меншому обсязі даних.
А ось приклад, який добре ілюструє можливості програмного забезпечення Hyena. У той час як GPT-3 має в своєму розпорядженні 175 мільярдів параметрів, навіть найбільша версія програмного забезпечення Hyena має лише 1,3 мільярда. Це означає, що Hyena в десятки разів ефективніша, навіть коли має в своєму розпорядженні в сотні разів менше параметрів. Це вражає і, схоже, вказує на те, що ми маємо справу з технологією, яка, можливо, відкриє нову главу в розвитку штучного інтелекту.
