Параметр 134 м, версия Llama шириной 768 для создания вложений предложений. В настоящее время обучение ведется только на наборе данных альпака, но позже может содержать лучшие веса.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: skeskinen
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 14 | Загрузок: 20
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Исходная модель: https://huggingface.co/Qwen/Qwen2.5-14B-Instruct Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Llama 2 — это набор предварительно обученных и точно настроенных генеративных текстовых моделей масштаба от 7 до 70...
Исходная модель: https://huggingface.co/aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования с вложениями...
Токены/сек — это заявленная внутренняя скорость MLX, фактическая скорость в LMStudio: вы — локальный ИИ, работающий в моей...
