Weyaxi/Bagel-Hermes-2x34B

Это модель Бублик-Гермес-2х34Б. Я использовал этот репозиторий для создания модели MOE. Поскольку Bagel-dpo-34b-v0.2 использует множество шаблонов подсказок, а Nous-Hermes-2-Yi-34B использует ChatML, вы можете использовать ChatML и другие шаблоны подсказок, предоставляемые Bagel. Квантованные версии этой модели доступны благодаря TheBloke.

Модальности:
Генерация текста

Области применения:
Диалог / чат

Задача: Генерация текста
Автор: Weyaxi
Теги: mixtral, yi, moe, conversational, model-index, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 146

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

Vortex5/Dreamstar-12B

Обзор Dreamstar-12B создан путем слияния SweetDreams12B, Darkstar-12B и Hollow-Aether-12B с использованием специального метода. Показать модели конфигурации YAML: —...

Генерация текста

Pinkstack/DistilGPT-OSS-qwen3-4B

DistilGPT-OSS-qwen3-4B — это тонкая настройка мышления Qwen3 4B-2507, он поддерживает до 262 тыс. токенов ввода и вывода (т.н....

Генерация текста

afrideva/Tinystories-gpt-0.1-3m-GGUF

Квантованные файлы моделей GGUF для Tinystories-gpt-0.1-3m из segestic from Transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained(«segestic/Tinystories-gpt-0.1-3m») model =...

Генерация текста

watashiha/Watashiha-Llama-2-13B-Ogiri-sft

Llama2-13bに日本語語彙を追加して継続事前学習を行った大喜利言語モデルです。事前学習後に大喜利データでТонкая настройкаしています。本モデルはAWS LLM支援プログラムの支援を受けております。継続事前学習ではAWS Trainium Лицензия: LLAMA 2 COMMUNITY LICENSE Библиотека: Neuronx-nemo-megatron Llama2の本来のトークナイザーに含まれる語彙32,000に日本語の語彙をBPEで学習して13,046 или 45,046です。語彙を追加する際、漢字一文字のトークンは、常用漢字と学習データ内で出現頻度が高いものに絞っています。数字と文字がペアのトークンや記号と文字がペアのトークンが学習されないように、予めデータから数字や記号を取り除いています。以下のコーパスを使用して、事前学習を行いました。その際のトークン数は650 億トークンでした。 C4,...