Lite-Oute-1-65M-Instruct — экспериментальная сверхкомпактная модель серии Lite, основанная на архитектуре LLaMA и содержащая около 65 миллионов параметров. Основная цель этой модели состояла в том, чтобы изучить нижние пределы размера модели, сохраняя при этом базовые возможности понимания языка. Из-за своего чрезвычайно небольшого размера эта модель демонстрирует базовые возможности генерации текста, но может испытывать трудности с инструкциями или поддержанием связности темы. Пользователи должны знать о его существенных ограничениях по сравнению с более крупными моделями и ожидать противоречивых или потенциально неточных ответов. Lite-Oute-1-65M-Instruct Lite-Oute-1-65M-Instruct-GGUF Lite-Oute-1-65M Lite-Oute-1-65M-GGUF > [!ВАЖНО] > Эта модель использует шаблон ChatML. Убедитесь, что вы используете правильный шаблон: Benchmark 5-shot 0-shot ARC Challenge 22,61 23,63 ARC Easy 37,16 40,49 CommonsenseQA 19,41 20,64 HellaSWAG 28,74 28,41 MMLU 25,20 23,45 OpenBookQA 27,40 28,60 PIQA 60,88 60,77 Виногранде 50,59 50,04 Модель можно использовать с библиотекой трансформеров HuggingFace: используя эту модель, вы подтверждаете, что понимаете и принимаете на себя риски, связанные с ее использованием. Вы исключительно…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: OuteAI
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 12 | Загрузок: 19
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.