Модель(и) AWQ для вывода с помощью графического процессора. Модели GPTQ для вывода графического процессора с несколькими вариантами параметров квантования. * 2, 3, 4, 5, 6 и 8-битные модели GGUF для вывода CPU+GPU. Эта модель представляет собой слияние ehartford/dolphin-2.1-mistral-7b, Open-Orca/Mistral-7B-OpenOrca, bhenrym14/mistral-7b-platypus-fp16 и эхартфорд/саманта-1.2-мистраль-7b. Мне очень жаль, что я дал такое длинное и своеобразное имя. Первоначально это было просто мое ленивое поведение в процессе создания моделей, чтобы легко различать различные комбинации моделей и наборов данных. Я не ожидал, что предыдущая модель (версия Theboke GPTQ) окажется такой популярной. В этот раз по просьбе некоторых ребят выпускаю модель на базе Мистраля, а вместе с ней унаследовал и стиль сверхдлинного названия. Добро пожаловать на пробу модели, пожалуйста, воздержитесь от резкой критики, если она вам не понравится. Модель большого языка (LLM) Mistral-7B-v0.1 представляет собой предварительно обученную генеративную текстовую модель с 7 миллиардами параметров. Мистраль-7Б-v0.1 превосходит Llama 2 13B во всех протестированных нами тестах. Для получения полной информации об этой модели, пожалуйста, прочитайте нашу статью и опубликуйте сообщение в блоге. Мистраль-7Б-v0.1 — модель-трансформер, со следующими вариантами архитектуры: -…
Модальности:
Генерация текста
Области применения:
Генерация кода
Задача: Генерация текста
Автор: uukuguy
Теги: mistral, llama-2, code, en, model-index, text-generation-inference, endpoints_compatible
Лайков: 17 | Загрузок: 217
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
