MythoLogic-Mini-7b можно считать младшим братом в моей серии моделей Mytho: MythoLogic-13b и MythoBoros-13b). Его ядро Llama-2 питается от Nous Hermes-2, который дополнительно дополнен Stable Beluga и тщательно дистиллированной Kimiko LoRa. Поскольку модели 7B, как правило, менее универсальны, больше внимания было уделено улучшению аспектов ролевой игры для этого слияния градиентов, из которых различные градиенты были протестированы, прежде чем остановиться на конфигурации, показанной ниже. С технической точки зрения, ядро Гермеса-2 начинается с 90% мощности, а затем полностью исчезает на уровне 12-го слоя, где Стабильная Белуга (и Кимико) решают более сложные лингвистические аспекты. Квантованные модели доступны на TheBloke: GGML — GPTQ (Вы лучшие!) Благодаря ядру Hermes-2 эта модель лучше всего работает с форматированием Alpaca, поэтому для оптимальной производительности модели используйте:
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Gryphe
Теги: llama, en, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 12
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
