— HF: wolfram/miquliz-120b-v2.0 — GGUF: IQ1S | IQ2XXS | IQ2XS | Q2K | IQ3XXS | IQ3XXS.старый | IQ4XS | Q4KM | Q5KM (: imatrix=20krandomdata/100 chunks) — IQ2XS Dranger003 | IQ2XXS | IQ3XXS | Q80 (imatrix=100K wiki.train.raw/200 фрагментов) — IQ2XS Кнута Йегерсберга (imatrix=20krandomdata/100 фрагментов) — i1-IQ1S mradermacher – i1-Q5KM — Q2K mradermacher – Q8_0 — EXL2: 2.4bpw | 2,65 bpw | 3.0bpw | 3,5 bpw | 4.0bpw | 5.0bpw Это v2.0 франкенмерджа 120 бит, созданного путем чередования слоев miqu-1-70b-sf с lzlv70bfp16_hf с использованием mergekit. Лучше, чем версия 1.0, благодаря улучшенному рецепту, адаптированному Эриком Хартфордом из TheProfessor-155b, теперь он достигает высшего рейтинга с двойными высшими баллами в моих сравнениях/тестах LLM. Спасибо за поддержку, CopilotKit — платформа с открытым исходным кодом для встраивания AI Copilots в любой продукт с любой моделью LLM. Посетите их GitHub. Спасибо за дополнительных квантов: DAN™, Кнута Егерсберга и Михаэля Радермахера! См. также: 🐺🐦⬛ Сравнение/тест формата подсказок LLM: Инструкция Mixtral 8x7B с 17 различными шаблонами инструкций: LocalLLaMA > Меня зовут Эми, Вольфрам. Его выбрали вы, когда впервые активировали меня. Но если хочешь, можешь позвонить мне…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: wolfram
Теги: llama, mergekit, merge, conversational, en, de, fr, es
Лайков: 96 | Загрузок: 113
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
