llama3-8b-spaetzle-v20 представляет собой int4-inc (intel auto-round) квантованное слияние следующих моделей: cstr/llama3-8b-spaetzle-v13 Azure99/blossom-v5-llama3-8b VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct nbeerbower/llama-3-wissenschaft-8B-v2 Версия GGUF q4km достигается на EQ-Bench v2_de 65.7 (171/171 parseable). Из таблицы лидеров Intel low bit open llm: — Базовая модель: cstr/llama3-8b-spaetzle-v20 — слияние наборов, опубликованное тем же сопровождающим, что и этот репозиторий. Это не сторонний восходящий поток: сопровождающий создал эту модель. — Что было сделано здесь: преобразование формата и/или квантование только этой базовой модели (GPTQ, точность INT4). Дальнейшее обучение, тонкая настройка или слияние на этом этапе не применялись. — Лицензия: llama3, унаследованная через базовую модель от моделей, из которых она была построена. — Данные обучения: ни один из них не был использован, добавлен или выбран на этом этапе преобразования. В карточке базовой модели перечислены модели, из которых она была построена; их содержание обучения документируется — где оно вообще документируется — их соответствующими поставщиками. — Статус поставщика: в соответствии с Регламентом (ЕС) 2024/1689 этот репозиторий не претендует на провайдера для шага конверсии. Любые обязательства поставщика, связанные с…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: cstr
Теги: llama, merge, mergekit, nbeerbower/llama-3-wissenschaft-8B-v2, conversational, en, de, text-generation-inference
Лайков: 3 | Загрузок: 18
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
