unsloth/Qwen2-7B-Instruct-bnb-4bit

У нас есть ноутбук Google Colab Tesla T4 для Qwen2 7b здесь: https://colab.research.google.com/drive/1mvwsIQWDs2EdZxZQF9pRGnnOvE86MVvR?usp=sharing И ноутбук Colab для Qwen2 0.5b и еще один для Qwen2 1.5b. Все ноутбуки удобны для новичков! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот диалоговый блокнот полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — * В Kaggle есть 2 T4, но мы используем 1. Из-за накладных расходов 1 T4 работает в 5 раз быстрее.

Модальности:
Генерация текста

Области применения:
Диалог / чат Следование инструкциям

Задача: Генерация текста
Автор: unsloth
Теги: qwen2, unsloth, conversational, en, text-generation-inference, endpoints_compatible, 4-bit, bitsandbytes
Лайков: 7 | Загрузок: 2,004

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

TrevorJS/gemma-4-E2B-it-uncensored-GGUF

Это GGUF-квантование TrevorJS/gemma-4-E2B-it-uncensored, удаленной (без цензуры) версии google/gemma-4-E2B-it. Отказное поведение было устранено с помощью сохраняющей норму бипроекционной аблитерации....

Генерация текста

Qwen/Qwen2.5-32B-Instruct-AWQ

Qwen2.5 — новейшая серия моделей большого языка Qwen. Для Qwen2.5 мы выпускаем ряд базовых языковых моделей и языковых...

Генерация текста

microsoft/Phi-3-small-128k-instruct

🎉 Phi-3.5: [[mini-instruct]](https://huggingface.co/microsoft/Phi-3.5-mini-instruct); [[MoE-instruct]](https://huggingface.co/microsoft/Phi-3.5-MoE-instruct); [[vision-instruct]](https://huggingface.co/microsoft/Phi-3.5-vision-instruct) Phi-3-Small-128K-Instruct — это 7B параметров, легкая, современная открытая модель, обученная с использованием наборов...

Генерация текста

cropinailab/aksara_v1

akṣara — это микроязыковая модель ((µ-LM)) и доработанная версия модели Mistral-7B-Instruct-v0.2. Модель точно настроена с использованием собственных сельскохозяйственных...