bling-sheared-llama-1.3b-0.1 является частью серии моделей BLING («Лучшие небольшие инструкции, не требующие графического процессора»), инструкции обучены поверх базовой модели Sheared-LLaMA-1.3B. Модели BLING точно настраиваются с использованием отборных высококачественных пользовательских наборов данных инструкций, ориентированных на определенный подмножество задач инструкций с целью предоставления высококачественной модели инструкций, «готовой к выводу» на ноутбуке с процессором даже без использования каких-либо расширенных оптимизаций квантования. Оценка по эталонному тесту: RAG-Instruct-Benchmark-Tester Среднее значение 2 тестовых прогонов с 1 баллом за правильный ответ, 0,5 балла за частичный правильный ответ или пустой ответ / NF, 0,0 балла за неправильный ответ и -1 балл за галлюцинации. —Оценка точности: 84,50 правильных ответов из 100 —Классификация не найдена: 20,0% —Булевское значение: 66,25% —Математика/логика: 9,4% —Сложные вопросы (1–5): 1 (низкое) —Качество суммирования (1–5): 3 (связное, извлекающее) —Галлюцинации: при тестировании галлюцинаций не наблюдалось. Результаты тестового запуска (и хорошие индикаторы целевых вариантов использования) см. в файлах («coreragtest» и «answer_sheet» в этом репозитории). — Разработчик: llmware — Тип модели: декодер, обученный инструкциям — Язык(и) (NLP): английский…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: llama, text-generation-inference
Лайков: 25 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
