Высокопроизводительный троичный преобразователь на процессоре | [ПАТЕНТ ЗАЯВЛЕН] Изобретатель: Константин Владимирович Грабко Организация: Официальный сайт CMS Manhattan: www.cmsmanhattan.com — Используйте версию Pro https://huggingface.co/CMSManhattan/JiRackTernaryPro_1b JiRackTernary-1.5B — это легкая, высокопроизводительная модель, оптимизированная для облака, предназначенная для достижения отличных результатов при значительном сокращении затрат на вывод в облаке. Он служит идеальной экспертной моделью в системах RAG и может быть эффективно развернут с использованием Java-сервера ONNX JiRack в качестве мощной альтернативы более тяжелым решениям. — Полные ресурсы модели: полный код модели, сведения об архитектуре, этапы обучения и веса представлены в папке репозитория. — Живая поддержка: получите помощь в режиме реального времени и пообщайтесь с моделью по электронной почте support@cmsmanhattan.com. — Клиент чата JiRack Android (с голосовым вводом и поддержкой Ollama API): Скачать APK — Клиент чата JiRack для Windows 11 для рабочего стола (с поддержкой Ollama API): Загрузите ZIP. Лучший и самый простой способ: используйте LoRA для обучения, затем преобразуйте упакованную модель + адаптер в формат ONNX для оптимального развертывания и производительности. — Стандартное примечание SFT: полная контролируемая точная настройка (SFT) на небольших моделях…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: kgrabko
Теги: onnx, jirack_ternary, ternary, bitnet, 1.58bit, llama, ternary-transformer, quantized
Лайков: 5 | Загрузок: 334
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
