bling-stable-lm-3b-4e1t-0.1 входит в серию моделей BLING («Лучшая маленькая инструкция, не требующая графического процессора»), RAG-instruct обучена на основе базовой модели StabilityAI Stablelm-3b-4e1t. Модели BLING точно настраиваются с использованием отборных высококачественных пользовательских наборов данных инструкций, ориентированных на определенный подмножество задач инструкций с целью предоставления высококачественной модели инструкций, «готовой к выводу» на ноутбуке с процессором даже без использования каких-либо расширенных оптимизаций квантования. Оценка по эталонному тесту: RAG-Instruct-Benchmark-Tester Среднее значение 2 тестовых прогонов с 1 баллом за правильный ответ, 0,5 балла за частичный правильный ответ или пустой ответ / NF, 0,0 балла за неправильный ответ и -1 балл за галлюцинации. —Оценка точности: 94,0 правильных из 100 —Классификация не найдена: 67,5% —Булевы значения: 77,5% —Математика/логика: 29% —Сложные вопросы (1–5): 3 (низкие) —Качество суммирования (1–5): 3 (связное, извлекающее) —Галлюцинации: при тестировании галлюцинаций не наблюдалось. Результаты тестового запуска (и хорошие индикаторы целевых вариантов использования) см. в файлах («coreragtest» и «answer_sheet» в этом репозитории). Для версии этой модели с быстрым квантованным выводом см.:…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: stablelm_epoch, custom_code
Лайков: 18 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
