Компанія Meta нещодавно анонсувала випуск оновленої версії своєї штучної інтелект-моделі Code Llama 70B, призначеної для генерації програмного коду на різних мовах програмування.
Що таке Code Llama 70B
Code Llama 70B є подальшим розвитком попередньої моделі Code Llama, представленої Meta у серпні минулого року. Вона використовує текстові підказки для генерування фрагментів коду на таких мовах, як Python, C++, Java, PHP, TypeScript, C# та Bash.
За словами розробників, оновлена версія може обробляти значно більше запитів порівняно з попередником та демонструє кращі результати у тестуваннях.
Покращення у новій версії
Основні вдосконалення Code Llama 70B:
- Навчання на 1 трильйоні токенів коду та даних проти 500 млрд у попередніх версіях;
- Підтримка контексту до 100 000 токенів для стабільної генерації;
- 53% точності у тесті HumanEval проти 48% у GPT-3.5 та 67% у GPT-4;
- Швидкість обробки запитів збільшена у кілька разів.
Крім базової моделі, також доступні спеціалізовані версії Code Llama 70B Python та Code Llama 70B Instruct.
Потенційне застосування
Code Llama 70B може використовуватися розробниками для прискорення написання та налагодження коду, автоматичного генерування фрагментів програм за текстовим описом тощо.
Це дозволить підвищити продуктивність праці програмістів та знизити бар'єр входу для початківців.
Висновки
Випуск оновленої Code Llama 70B з відкритим кодом відповідає прагненню Meta сприяти інноваціям у сфері штучного інтелекту. Потужна та точна модель стане корисним інструментом для розробників по всьому світу.
