ChocoLlama Семейство голландских языковых моделей на основе Llama-2/3. Здесь мы представляем ChocoLlama-2-7B-instruct, настроенную на инструкции версию базы Llama-3-ChocoLlama-8B, доработанную на основе коллекции голландских переводов наборов данных для настройки инструкций с использованием SFT с последующим DPO. Его базовая модель, Llama-3-ChocoLlama-8B-base, представляет собой адаптированную к языку версию Meta Llama-2-7b, доработанную на 32B голландских токенах Llama-2 (104 ГБ) с использованием LoRa. Обратите внимание, что наборы данных, используемые для настройки инструкций, были переведены с использованием GPT-3.5/4, а это означает, что эту настроенную на инструкции модель нельзя использовать в коммерческих целях. Следовательно, для любых коммерческих приложений мы рекомендуем точно настроить базовую модель на основе ваших собственных голландских данных. ChocoLlama — это семейство открытых LLM, специально адаптированных для голландского языка, которые вносят свой вклад в современное состояние голландских открытых LLM в своей весовой категории. Мы предоставляем 6 вариантов (из них 3 базовые и 3 модели с настраиваемыми инструкциями): — ChocoLlama-2-7B-base (ссылка): адаптированная к языку версия Meta Llama-2-7b, доработанная на 32B голландских токенах Llama-2 (104 ГБ) с использованием LoRa. — ChocoLlama-2-7B-instruct (ссылка): настроенная на инструкции версия базы ChocoLlama-2-7B, доработанная на основе коллекции голландских переводов…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: ChocoLlama
Теги: llama, conversational, nl, text-generation-inference, endpoints_compatible
Лайков: 6 | Загрузок: 42
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
