llmware/bling-sheared-llama-2.7b-0.1 является частью серии моделей BLING («Лучшая маленькая инструкция, не требующая графического процессора»), RAG-instruct обучена поверх базовой модели Sheared-LLaMA-2.7B. Модели BLING точно настраиваются с использованием отборных высококачественных пользовательских наборов данных инструкций, ориентированных на определенный подмножество задач инструкций с целью предоставления высококачественной модели инструкций, «готовой к выводу» на ноутбуке с процессором даже без использования каких-либо расширенных оптимизаций квантования. Оценка по эталонному тесту: RAG-Instruct-Benchmark-Tester Среднее значение 2 тестовых прогонов с 1 баллом за правильный ответ, 0,5 балла за частичный правильный ответ или пустой ответ / NF, 0,0 балла за неправильный ответ и -1 балл за галлюцинации. —Оценка точности: 90,25 правильных из 100 —Классификация не найдена: 60,0% —Булевская переменная: 80,0% —Математика/логика: 50,0% —Сложные вопросы (1–5): 2 (низкий-средний) —Качество суммирования (1–5): 3 (связный, извлекающий) —Галлюцинации: при тестировании галлюцинаций не наблюдалось. Результаты тестового запуска (и хорошие индикаторы целевых вариантов использования) см. в файлах («coreragtest» и «answer_sheet» в этом репозитории). — Разработчик: llmware — Тип модели: декодер, обученный инструкциям -…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: llmware
Теги: llama, text-generation-inference
Лайков: 9 | Загрузок: 8
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
