Это модель, подобная Vicuna, всего с 68M параметрами, которая является точной настройкой LLaMA-68m на данных ShareGPT. Модель в основном разработана как базовая малая спекулятивная модель в статье MCSD. Для сравнения: его можно лучше согласовать с моделями Vicuna, чем LLaMA-68m, с небольшой потерей согласованности с моделями LLaMA.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: double7
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 11,007
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.