Это квантованная версия Replit-v2-CodeInstruct-3B в формате ggml. Квантуется до 4 бит -> q4_1. Для выполнения вывода вы можете использовать непосредственно ggml или ctransformers. — Использование памяти модели: 2 ГБ ~ — Репозиторий для запуска модели с использованием ctransformers: https://github.com/abacaj/replit-3B-inference
Модальности:
Генерация текста
Области применения:
Генерация кода Следование инструкциям
Задача: Генерация текста
Автор: abacaj
Теги: mpt, custom_code
Лайков: 33 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.