BigCode випустила найпотужнішу опенсорс-модель для генерації коду

Компанія BigCode випустила найбільш потужну модель для генерації коду — StarCoder.

Про це компанія повідомила в Twitter.

Introducing: 💫StarCoder

StarCoder is a 15B LLM for code with 8k context and trained only on permissive data in 80+ programming languages. It can be prompted to reach 40% pass@1 on HumanEval and act as a Tech Assistant.

Try it here: https://t.co/4XJ0tn4K1m

Release thread🧵 pic.twitter.com/wZj6B2KKZE

— BigCode (@BigCodeProject) May 4, 2023

Модель вміє робити те саме, що й GitHub CoPilot — підсказувати й писати код. Але, на відміну від CoPilot, це не платна послуга, а доступний всім опенсорс-код.

Компанія BigCode випустила одразу дві моделі.

StarCoder — це 15B LLM для генерації коду з 8 тисячами токенів контексту, навчалася на відкритому коді з 80+ мовами програмування та зафайнтюнена на 35B Python токенах. Видає найкращі результати для генерації коду на Python.

Базова модель StarCoderBase більш універсальна і тренувалася на 1 тисячі токенів 80+ мовами програмування.

Є також плагін для VSCode.

Нагадаємо, нещодавно Amazon зробив безкоштовним використання CodeWhisperer — свого помічника для кодування на основі штучного інтелекту.