СКОРОСТЬ ДЕМОН: Почти мгновенное (300-500 т/с) ИИ (умное) генерирование мышления или указание на всех устройствах. Точная настройка «LFM2-8B-A1B» с помощью Unsloth с использованием пользовательских наборов данных, контекст 128k с точностью до 16 бит. Отличается творческой генерацией длинных форм. Очень умный. Эта модель представляет собой редкую смесь моделей экспертов (32) с 4 активированными экспертами. Скорость превышает 50-100 т/с на CPU // 200 т/с на большинстве карт // 500 т/с + на 5090 у QUANT Q6K [4 эксперта]. Поместите коммандера Дейта, Филипа К. Дика и Марка Твена в комнату, обсуждающую достоинства ОИИ. Объем 1500 слов. Не наносите удары, сделайте это драматичным. В тускло освещенном круглом конференц-зале, залитом приглушенным светом верхнего освещения, лицом друг к другу стояли три высокие фигуры. Командир Дейта с корабля «Энтерпрайз» стоял неподвижно, его металлические глаза блестели, как две холодные звезды, излучая холодную отстраненность мыслящей машины. Напротив него, сидя за старинным дубовым столом, плыл Филип К. Дик, его резкие черты лица были смягчены созерцательным выражением, а его мысли с пылом философа проносились над смыслами искусственного интеллекта. На противоположной стороне стола фигура в строгом костюме и галстуке излучала непринужденность…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: DavidAU
Теги: lfm2_moe, finetune, unsloth, mixture of experts, sparse moe, moe, conversational, en
Лайков: 5 | Загрузок: 17
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
