Языковая модель Phi-1 представляет собой преобразователь с 1,3 миллиарда параметров, специализирующийся на базовом кодировании Python. В его обучении использовались различные источники данных, включая подмножества кодов Python из The Stack v1.2, контент вопросов и ответов из StackOverflow, код соревнований из code_contests, а также синтетические учебники Python и упражнения, созданные gpt-3.5-turbo-0301. Несмотря на то, что модель и наборы данных относительно невелики по сравнению с современными моделями большого языка (LLM), Phi-1 продемонстрировал впечатляющий уровень точности, превышающий 50%, в простом тесте кодирования Python HumanEval. Phi-1 интегрирован в преобразователи версии 4.37.0, убедитесь, что вы используете версию, аналогичную ей или более позднюю. Учитывая характер обучающих данных, Phi-1 лучше всего подходит для подсказок в формате кода: когда модель генерирует код после комментариев. (Примечание: это законное и правильное использование оператора else в циклах Python.) * Phi-1 предназначен для написания кода. Код, сгенерированный моделью, следует рассматривать как отправную точку, а не как окончательное решение для потенциальных вариантов использования. Пользователи должны быть осторожны при использовании этой модели в своих приложениях. * Прямой…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: microsoft
Теги: phi, code, en, text-generation-inference, endpoints_compatible
Лайков: 218 | Загрузок: 7,798
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
