— ✅ Точная настройка на 60 тыс. примеров вызова функций — ✅ 4B параметров (оптимальное место для локального развертывания) — ✅ Формат GGUF (оптимизирован для вывода данных CPU/GPU) — ✅ Загрузка 3,99 ГБ (подходит для любой современной системы) — ✅ Готовность к работе с потерями на обучение 0,518 — Базовая модель: Qwen3-4B-Instruct — Точная настройка: LoRA для набора данных вызова функций — Формат: GGUF (оптимизирован для локальный вывод) — Длина контекста: 262 тыс. токенов — Точность: оптимизация FP16 — Память: включена контрольная точка градиента — Создание агентов ИИ, которым требуется вызов инструментов — Создание локальных помощников по кодированию — Обучение вызову функций без облачных зависимостей — Бюджетное прототипирование приложений ИИ — Разработка с учетом конфиденциальности — Графический процессор: 6 ГБ + видеопамять (RTX 3060, RTX 4060 и т. д.) — ОЗУ: 8 ГБ + системная ОЗУ — Хранилище: 5 ГБ Свободное пространство — ОС: Windows, macOS, Linux — Точность вызова функций: 94%+ на тестовом наборе — Извлечение параметров: точность 96%+ — Выбор инструмента: правильный выбор более 92% — Качество ответа: поддерживает диалоговую способность ИДЕАЛЬНО для разработчиков, которым нужны: — Локальный помощник по написанию кода с использованием искусственного интеллекта (например, Codex, но частный) — Вызов функций без затрат на API — Совместимость с 6 ГБ видеопамяти (работает на большинстве игровых графических процессоров) — Нулевая зависимость от Интернета после загрузки -…
Модальности:
Генерация текста
Области применения:
Диалог / чат Вызов функций (Tool use) Генерация кода
Задача: Генерация текста
Автор: Manojb
Теги: gguf, qwen3, function-calling, tool-calling, codex, local-llm, 6gb-vram, ollama
Лайков: 48 | Загрузок: 4,046
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
