Квантованные файлы модели GGUF для evolvedSeeker13 от TokenBender. Эта модель представляет собой доработанную версию deepseek-ai/deepseek-coder-1.3b-base, обученную на 50 тыс. инструкций в течение 3 эпох. В основном я отбирал инструкции из наборов данных evolInstruct и некоторых частей glaive coder. Рекомендуемый формат — ChatML. Alpaca тоже подойдет, но следите за токеном EOT. Первая модель проекта PIC (Partner-in-Crime) в диапазоне 1,3 млрд. Почти вся работа над этой моделью сейчас находится в стадии разработки, поэтому версия — v0.0.1 !image/png Супербыстрый Copilot работает практически без потерь, квантован в 1 ГБ ОЗУ. Полезен для курирования и оценки наборов данных кода. Ограничения. Это небольшая модель, поэтому у нее небольшой «мозг», который, возможно, не вместил в себя некоторую информацию. Тесты на рассуждения могут давать сбои после определенного момента. — Transformers 4.35.2 — Pytorch 2.0.1 — Datasets 2.15.0 — Tokenizers 0.15.0
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: afrideva
Теги: gguf, generated_from_trainer, ggml, quantized, q2_k, q3_k_m, q4_k_m, q5_k_m
Лайков: 2 | Загрузок: 241
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.