OpenHermes-2.5-Mistral-7B-sharded
It allows you to run the model on a free Colab instance / T4 GPU if you load...
It allows you to run the model on a free Colab instance / T4 GPU if you load...
Чат По сравнению с GPTQ он обеспечивает более быстрое выполнение инференса на основе Transformers. Теперь он также поддерживается...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
Chat & support: TheBloke’s Discord server Want to contribute? TheBloke’s Patreon page TheBloke’s LLM work is generously supported...
NVIDIA’s looped Dory1.0-4B, distilled from Reflection’s Beam-1.0-501B-A23B, with Beam’s reasoning-effort setting. Pass reasoningeffort = low, medium or high,...
> 新しい版(v2)があります:Qwen3.5-0.8B-Japanese-SFT-v2。 同じ言葉を止まらずに繰り返す問題(llama.cpp で 590回答中 8件 → 0件)と会話の自然さを改善し、日本語の一般常識も増えています。特に理由がなければ v2 を使ってください。 Qwen/Qwen3.5-0.8B を日本語向けに追加学習した、非公式の派生モデルです。Qwen チームとは関係ありません。 0.8B(8億パラメータ)と小さいので、GPU のないノートパソコンでも動きます(GGUF Q4KM で約 0.5...
XHToken/Spark-X2.5-4B を日本語向けに追加学習した、非公式の派生モデルです。XHToken とは関係ありません。 元の Spark-X2.5-4B は日本語で書かせると不自然になりやすく、中国語が混ざることもありました。2段階の LoRA(学習後に統合済み)で、その弱点を直しています。 Неофициальная японская тонкая настройка XHToken/Spark-X2.5-4B (две объединенные стадии LoRA: японская SFT,...
Высокопроизводительная, структурно дистиллированная причинно-следственная языковая модель, разработанная для локального развертывания, выполнения с низкой задержкой и плотности рассуждений. Разработанная...