Gemma 2B настроена на наборе данных инструкций CodeAlpaca 20k с использованием метода QLoRA с библиотекой PEFT. Gemma — это семейство легких современных открытых моделей от Google, созданных на основе тех же исследований и технологий, которые использовались при создании моделей Gemini. Это большие языковые модели для преобразования текста в текст, предназначенные только для декодера, доступные на английском языке, с открытыми весами, предварительно обученными вариантами и вариантами, настроенными с помощью инструкций. Модели Gemma хорошо подходят для различных задач по созданию текста, включая ответы на вопросы, обобщение и рассуждения. Их относительно небольшой размер позволяет развертывать их в средах с ограниченными ресурсами, таких как ноутбук, настольный компьютер или собственная облачная инфраструктура, демократизируя доступ к современным моделям искусственного интеллекта и помогая стимулировать инновации для всех. CodeAlpaca_20K: содержит 20 000 данных о выполнении инструкций, используемых для точной настройки модели Code Alpaca. Обучение заняло 1 час 40 минут на бесплатном графическом процессоре Colab T4 (16 ГБ видеопамяти) со следующими параметрами:
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: MAISAAI
Теги: gemma, generated_from_trainer, code, coding, text-generation-inference, endpoints_compatible
Лайков: 5 | Загрузок: 81
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.