Meta-Llama-3-120B-Instruct — это самообъединение мета-ламы/Meta-Llama-3-70B-Instruct, созданное с помощью MergeKit. — alpindale/goliath-120b — nsfwthrowitaway69/Venus-120b-v1.0 — когнитивные вычисления/MegaDolphin-120b — wolfram/miquliz-120b-v2.0. Особая благодарность Эрику Хартфорду за вдохновение и оценку этой модели, а также Чарльзу Годдарду за создание MergeKit. Я рекомендую использовать эту модель для творческого письма. Он использует шаблон чата Llama 3 с контекстным окном по умолчанию 8K (может быть расширен с помощью веревки Theta). Ознакомьтесь с примерами в разделе оценки, чтобы получить представление о его производительности. Модель в целом довольно расстроенная, но имеет хороший стиль написания. Иногда он выводит опечатки и является большим поклонником верхнего регистра. Спасибо Бартовски, Элинас, сообществу mlx и другим за предоставление этих моделей. GGUF: https://huggingface.co/lmstudio-community/Meta-Llama-3-120B-Instruct-GGUF EXL2: https://huggingface.co/elinas/Meta-Llama-3-120B-Instruct-4.0bpw-exl2 mlx**: https://huggingface.co/mlx-community/Meta-Llama-3-120B-Instruct-4bit Эта модель отлично подходит для творческого письма, но плохо справляется с другими задачами. Я бы посоветовал использовать его с осторожностью и не ожидать, что он превзойдет GPT-4 за пределами каких-то очень…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: mlabonne
Теги: llama, merge, mergekit, lazymergekit, conversational, text-generation-inference, endpoints_compatible
Лайков: 202 | Загрузок: 23
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
