Изменить: я вижу множество поколений токенов, указывающих на неизвестные адреса Юникода, которые не отображались во время тестирования этой модели, поэтому я перестал использовать ее и работаю над новой версией. Общий показатель успешности MMLU-PRO увеличился на 9 % по сравнению с LLaMA 3.1 70b в Q40. Высокая производительность в категориях MMLU-PRO в целом. Отличная производительность при ручном тестировании. Рабочий процесс создания ==================== Модели объединены мета-лама/Мета-Ллама-3.1-70B-Instruct турбодерп/Cat-Llama-3-70B-instruct * Nexusflow/Athene-70B Температура: 0,0 для автоматического режима, 0,9 для ручного. Наказать повторную последовательность: 1,05 Рассмотреть N токенов для наложения штрафа: 256 Наказать за повторение символов новой строки Выборка Top-K: 40 Выборка Top-P: 0,95 Выборка Min-P**: 0,05 Cathallama-70B.Q40.gguf NexusflowAthene-70B.Q40.gguf TurboderpCat-Llama-3-70B-instruct.Q40.gguf Meta-Llama-3.1-70B-Instruct.Q40.gguf Запрос Если вы нанимаете сотрудников в ЕС или можете спонсировать визу, напишите мне в личку 😀
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: gbueno86
Теги: llama, mergekit, merge, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 7 | Загрузок: 64
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
