akdeniz27/llama-2-7b-hf-qlora-dolly15k-turkish

Во время обучения использовалась следующая конфигурация квантования битов и байтов: — loadin8bit: False — loadin4bit: True — llmint8threshold: 6.0 — llmint8skipmodules: None — llmint8enablefp32cpuoffload: False — llmint8hasfp16weight: False — bnb4bitquanttype: nf4 — bnb4bitusedoublequant: True — bnb4bitcomputedtype: bfloat16

Модальности:
Генерация текста

Задача: Генерация текста
Автор: akdeniz27
Теги: peft, tr
Лайков: 8 | Загрузок: 6

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

Tesslate/Tessa-T1-14B

Tessa-T1 — это инновационная модель рассуждения React на основе преобразователя, доработанная на основе мощной базовой модели Qwen2.5-Coder-14B-Instruct. Разработанный...

Генерация текста

Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V4-70B

AI専門企業であるLinkbricks Horizon-AI のデータサイエンティストであるジ・ユンソン(Saxo)代表がSaxo/Linkbricks-Horizon-AI-Japanese-Superb-V3-70Bベースモデルを使用し、H100-80G 8個を通じて約日本語 SFT->DPOした日本語強化言語モデル。 3 千万件の日本ニュース及びウィキコーパスを基準に、様々なタスク別の日本語・韓国語・中国語・英語クロス学習データと数学及び論理判断データを通じて、日中韓英言語クロス補強処理と複雑な論理問題にも対応できるように訓練したモデルです。 -トークナイザーは、単語拡張なしでベースモデルのまま使用します。 -カスタマーレビューやソーシャル投稿の高次元分析及びコーディングとライティング、数学、論理判断などが強化されたモデル。 -128k-Контекстное окно -Вызов функции -128k-Контекстное окно -Deepspeed Stage=3、rslora及びBAdam...

Генерация текста

unsloth/gemma-2-it-GGUF

У нас есть ноутбук Google Colab Tesla T4 для Gemma 2 (2B) здесь: https://colab.research.google.com/drive/1weTpKOjBZxZJ5PQ-Ql8i6ptAY2x-FWVA?usp=sharing У нас есть ноутбук...

Генерация текста

andreaskoepf/pythia-1.4b-gpt4all-pretrain

wandb: https://wandb.ai/open-assistant/supervised-finetuning/runs/t2adm3wu команда: deepspeed Trainsft.py —configs defaults pretrain pythia-1.4b-pretrain —cachedir .cache/ —outputdir .savedmodels/pythia-1.4b-pre —residualdropout 0.0 —deepspeed` Модальности:Генерация текста...