gemma-2-baku-2b-it-GGUF
This is quantized version of rinna/gemma-2-baku-2b-it created using llama.cpp The model is an instruction-tuned variant of rinna/gemma-2-baku-2b, utilizing...
This is quantized version of rinna/gemma-2-baku-2b-it created using llama.cpp The model is an instruction-tuned variant of rinna/gemma-2-baku-2b, utilizing...
This is quantized version of google/gemma-2-2b-jpn-it created using llama.cpp — Responsible Generative AI Toolkit — Gemma 2 JPN...
The Model mlx-community/gemma-2-2b-jpn-it-4bit was converted to MLX format from google/gemma-2-2b-jpn-it using mlx-lm version 0.17.1. Модальности:Генерация текста Области применения:Диалог...
The Model mlx-community/gemma-2-2b-jpn-it was converted to MLX format from google/gemma-2-2b-jpn-it using mlx-lm version 0.17.1. Модальности:Генерация текста Области применения:Диалог...
This model is based on “https://huggingface.co/AXCXEPT/EZO-Qwen2.5-32B-Instruct” and automatically performs “Chain-Of-Thought” and “RAG” as custom processing to compensate for...
このモデルはin-foxhound-jaを用いて、長期的な視点で、安全域のある優良企業を探し出し、詳細な分析に基づいた投資判断と根拠を示すことを目的に製作されました。(あくまで実験であり、実際にはAIが出力した指示に従わないで下さい。) Модальности:Генерация текста Области применения:Финансы Задача: Генерация текста Автор: DataPilot Теги: gemma2, finance, text2text-generation, ja, 4-bit, bitsandbytesЛайков: 3...
Contact me if you have suggestions for models to compress next or if you want to compress your...
GENIAC 松尾研 LLM開発プロジェクトで開発されたLLMであるweblab-GENIAC/Tanuki-8x8B-dpo-v1.0のGPTQ 4bit量子化モデルです。 キャリブレーションセットにはizumi-lab/wikipedia-ja-20230720からランダムサンプリングした1000件を利用しています。 この元モデルは独自アーキテクチャを持つモデルであるため、変換のためにAutoGPTQライブラリの一部改変が必要となりました。本モデルの変換に必要な改変を施したAutoGPTQをこちらで公開しています。 また、同様の理由で本モデルをvLLMを使って推論する際にはvLLMライブラリの一部改変が必要となります。本モデルの推論に必要な改変を施したvLLMをこちらで公開しています。 これを以下のようにソースからビルドし推論に利用してください。 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
GENIAC 松尾研 LLM開発プロジェクトで開発されたLLMであるweblab-GENIAC/Tanuki-8x8B-dpo-v1.0のAWQ 4bit量子化モデルです。 キャリブレーションセットにはizumi-lab/wikipedia-ja-20230720からランダムサンプリングした512件を利用しています。 この元モデルは独自アーキテクチャを持つモデルであるため、変換のためにAutoAWQライブラリの一部改変が必要となりました。本モデルの変換に必要な改変を施したAutoAWQをこちらで公開しています。 また、同様の理由で本モデルをvLLMを使って推論する際にはvLLMライブラリの一部改変が必要となります。本モデルの推論に必要な改変を施したvLLMをこちらで公開しています。 これを以下のようにソースからビルドし推論に利用してください。 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
This modelcard aims to be a base template for new models. It has been generated using this raw...