Metharme 7B 4bit LLaMA с настроенными инструкциями, ориентированная на написание художественной литературы и разговорную речь. Преобразовано из весов XOR из выпуска PygmalionAI https://huggingface.co/PygmalionAI/metharme-7b. Квантовано для использования KoboldAI с использованием https://github.com/0cc4m/GPTQ-for-LLaMa. Я создал несколько десятков квантованных вариантов этой модели и считаю, что этот вариант «лучший». таблица { border:1px Solid #b3adad; граница-коллапс: коллапс; отступ: 5 пикселей; } table th { border:1px Solid #b3adad; отступ: 5 пикселей; фон: #f0f0f0; цвет: #313030; } table td { border:1px Solid #b3adad; выравнивание текста: по центру; отступ: 5 пикселей; фон: #ffffff; цвет: #313030; } Модель: Wikitext2 Ptb-New C4-New Metharme 7b — 16bit 5.7208476066589355 41.61103439331055 7.512405872344971 Metharme-AO-TS-Trits-damp0.1 6.172733783721924 45.19890213012695 7.872506141662598 Другие результаты тестов указаны внизу файла readme. Metharme 7B — это обучающая модель, основанная на LLaMA-7B компании Meta. Это эксперимент, целью которого является попытка получить модель, которую можно было бы использовать для разговора, ролевой игры и написания рассказов, но которой можно было бы управлять с помощью естественного языка, как и другими моделями обучения. Примеры см. в разделе подсказок ниже. Это было…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: Monero
Теги: llama, text generation, instruct, en
Лайков: 44 | Загрузок: 750
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
