Phi-3.5-mini-instruct-awq-g128-int4-asym-bf16-onnx-ryzen-strix
INVALID LANGUAGE PAIR SPECIFIED. EXAMPLE: LANGPAIR=EN|IT USING 2 LETTER ISO OR RFC3066 LIKE ZH-CN. ALMOST ALL LANGUAGES SUPPORTED...
Метка: custom_code
MoH-LLaMA3-8B
We propose Mixture-of-Head attention (MoH), a new architecture that treats attention heads as experts in the Mixture-of-Experts (MoE)...
sqft-phi-3.5-mini-instruct-base-gptq
— Source Model: microsoft/Phi-3.5-mini-instruct — Quantization: GPTQ-INT4 Repository: https://github.com/IntelLabs/Hardware-Aware-Automated-Machine-Learning/tree/main/SQFT Paper: — SQFT: Low-cost Model Adaptation in Low-precision Sparse...
EZO-AutoCoTRAG-Qwen2.5-32B-Instruct
This model is based on “https://huggingface.co/AXCXEPT/EZO-Qwen2.5-32B-Instruct” and automatically performs “Chain-Of-Thought” and “RAG” as custom processing to compensate for...
project-angel-chatglm4-v2
Модель в настоящее время следует обновлению от GLM-4-9B-Chat и теперь требует трансформаторов>=4.44.0. Обновите свои зависимости соответствующим образом. Также...
Artemide-3.5
This model is a finetuned version of Phi-3.5-mini-instruct on the ReDiX/DataForge dataset. The dataset is a mixture of...
Tanuki-8x8B-dpo-v1.0-GPTQ-4bit
GENIAC 松尾研 LLM開発プロジェクトで開発されたLLMであるweblab-GENIAC/Tanuki-8x8B-dpo-v1.0のGPTQ 4bit量子化モデルです。 キャリブレーションセットにはizumi-lab/wikipedia-ja-20230720からランダムサンプリングした1000件を利用しています。 この元モデルは独自アーキテクチャを持つモデルであるため、変換のためにAutoGPTQライブラリの一部改変が必要となりました。本モデルの変換に必要な改変を施したAutoGPTQをこちらで公開しています。 また、同様の理由で本モデルをvLLMを使って推論する際にはvLLMライブラリの一部改変が必要となります。本モデルの推論に必要な改変を施したvLLMをこちらで公開しています。 これを以下のようにソースからビルドし推論に利用してください。 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
Tanuki-8x8B-dpo-v1.0-AWQ
GENIAC 松尾研 LLM開発プロジェクトで開発されたLLMであるweblab-GENIAC/Tanuki-8x8B-dpo-v1.0のAWQ 4bit量子化モデルです。 キャリブレーションセットにはizumi-lab/wikipedia-ja-20230720からランダムサンプリングした512件を利用しています。 この元モデルは独自アーキテクチャを持つモデルであるため、変換のためにAutoAWQライブラリの一部改変が必要となりました。本モデルの変換に必要な改変を施したAutoAWQをこちらで公開しています。 また、同様の理由で本モデルをvLLMを使って推論する際にはvLLMライブラリの一部改変が必要となります。本モデルの推論に必要な改変を施したvLLMをこちらで公開しています。 これを以下のようにソースからビルドし推論に利用してください。 Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор:...
jais-family-256m-chat
The Jais family of models is a comprehensive series of bilingual English-Arabic large language models (LLMs). These models...
sqft-sparsepeft-phi-3-mini-4k-50-math-heu
— Base Model: IntelLabs/sqft-phi-3-mini-4k-50-base — Sparsity: 50% — Quantization: No — Finetune Method: SQFT + SparsePEFT — Finetune...