Этот репозиторий содержит файлы моделей формата GGUF для Solar-Open-100B от Upstage. Solar Open — это массивная модель Mixture-of-Experts (MoE) со 102B параметрами, обученная с нуля на 19,7 триллионах токенов. Несмотря на большой общий размер, во время вывода он использует только 12B активных параметров, предлагая уникальное сочетание огромного объема знаний и эффективной скорости генерации. Рекомендуемые параметры: Upstage рекомендует следующие параметры выборки для Solar Open: Температура: 0,8 Top-P: 0,95 Top-K: 50` Вес модели лицензируется по лицензии Solar-Apache 2.0. Пожалуйста, ознакомьтесь с полными условиями лицензии здесь: ЛИЦЕНЗИЯ
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: AaryanK
Теги: gguf, text-generation-inference, upstage, solar, moe, 100b, en, ko
Лайков: 15 | Загрузок: 335
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
