Метка: imatrix - Страница 9 - Каталог нейросетей

Метка: imatrix

Генерация текста

kawaimasa/wanabi_mini_12b_GGUF

wanabimini12bGGUF** は、小説執筆支援に特化してファインチューニングされた日本語大規模言語モデルです。wanabi-24Bと同等の機能を有しながらより多くのユーザーが扱い易いモデルを用意しました。 このモデルは、mistralai/Mistral-Nemo-Base-2407 をベースとし、24B版よりもデータセットの規模は小さいものの、より高品質な日本語の小説関連テキストデータを用いて学習されています。アイデア出しから本文生成、文脈に沿った続きの生成、そしてアイデアの補間まで、小説執筆の様々なプロセスをサポートすることを目指しています。 提供形式: 現在、GGUF 形式のみ提供しています。VRAM 8GB以上のコンシューマGPUに適合する複数の量子化バージョンを用意。全て量子化モデルは特性のキャリブレーションデータを用いてimatrix量子化されています。 特徴: 24B版と比較して、より高品質なデータセットで学習されており、応答性や特定のタスクにおける精度向上が期待されます。 このモデルは、専用のデスクトップアプ アイデア補間機能 (新): 目的: Project Wannabe の「詳細情報」タブで、小説のアイデアに必要な全ての項目(タイトル、キーワード、ジャンル、あらすじ、設定、プロット)が入力されている場合に、それらの情報を基により詳細で深掘りされたアイデアや展開のヒントを生成します。 適用:...

Генерация текста

Mungert/OlympicCoder-7B-GGUF

Наш последний метод квантования вводит прецизионно-адаптивное квантование для сверхнизкоразрядных моделей (1-2 бита) с проверенными улучшениями на Llama-3-8B. Этот...