Это версия модели Mixtral-8x7B-Instruct-v0.1 (https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1), квантованная с помощью смеси 4-битных и 2-битных сигналов с помощью полуквадратичного квантования (HQQ). Точнее, уровни внимания квантуются до 4 бит, а эксперты — до 2 бит. Эта модель должна работать намного лучше по сравнению с полностью 2-битной моделью при небольшом увеличении размера модели (18,2 ГБ против 18 ГБ). Эту идею предложили Артем Елисеев (@lavawolfiee) и Денис Мазур (@dvmazur) в дискуссии на Github. 1. Спроектируйте автомобиль. Определите тип автомобиля, который вы хотите построить (например, седан, внедорожник, спортивный автомобиль) и его характеристики (например, размер, вес, мощность, топливная экономичность). Создавайте подробные эскизы и 3D-модели экстерьера и интерьера автомобиля. * Спроектируйте технические компоненты автомобиля, включая двигатель, трансмиссию, тормоза и систему подвески. 2. Приобретите необходимые материалы и детали. Купите или изготовьте необходимые материалы, такие как сталь, алюминий и пластик. Приобретите или изготовьте необходимые детали, такие как двигатель, трансмиссия, тормоза, система подвески и электрические компоненты. 3. Создайте производственное предприятие: создайте…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: mobiuslabsgmbh
Теги: mixtral, moe, conversational
Лайков: 38 | Загрузок: 38
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
