LFM 8B-1A8 (MOE, 32 эксперта), обученный пользовательскому набору ДАННЫХ с использованием Qwen 3.6 35B-A3B (MOE, 256 экспертов, в режиме мышления, с контекстом 24K) в качестве учителя через «сервер» LMSTUDIO (с использованием пользовательских сценариев Python) с использованием пользовательского кванта IQ4_XS NEO-CODE-Dimatrix (Imatrix). Обучение модели через Unsloth на локальном оборудовании с помощью пользовательских сценариев обучения. Учебные заметки: — Модельный интеллект подскочил. — Серьезные улучшения в форматировании, стиле и прозе. — Теперь можно использовать ручку REP 1, (выкл.) (тогда как корневая модель требовала от 1,05 до 1,1). — Модель поддерживается как «инструктирование», а не преобразование в «мышление». Это модель INSTRUCT, которая работает со скоростью более 500 т/с на графическом процессоре 5090, 50-100 т/с на процессоре. SETTINGS/MODEL INFO: — 128k max context, suggest 8k min context window. — Ручка REP 1. [выкл.] ; производитель моделей для заметок предлагает: ручка REP 1.05 — Температура от 2 до 1,2 ; Температура 1, используемая во время тестирования. — 4 из 32 экспертов активированы по умолчанию. — Модель умеренно без цензуры. — Предложите quant IQXxs (imatrix) или Q5/Q6 non imatrix ggufs. LFM2-8B-A1B-Instruct-Quantum-IQ1C-Qwen3.6-35B-A3B-DISTILL2 q8-hi 0.484,0.702,0.796,0.649,0.414,0.755,0.616 LFM2-8B-A1B-Instruct-Quantum-IQ1C-Qwen3.6-35B-A3B-DISTILL q8-hi …
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: DavidAU
Теги: lfm2_moe, distill, finetune, unsloth, moe, mixture of experts, conversational, en
Лайков: 3 | Загрузок: 59
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
