Lumen-8b-05-2025 — это доработанная версия Qwen3-8B, созданная Noetic Labs для повышения производительности при выполнении академических и сложных задач, связанных с выполнением инструкций. Эта модель использует мощные базовые возможности Qwen3 и оптимизирована для научного и технического контента посредством целенаправленной тонкой настройки. — Базовая модель: Qwen3-8B — Квантование: создано на основе 4-битного квантованного unsloth/Qwen3-8B-unsloth-bnb-4bit — Метод точной настройки: LoRA (адаптация низкого ранга) — Параметры LoRA: — Ранг: 16 — Обучение: 1 эпоха — Структура: Unsloth — Параметры: 8.2B (базовая модель) — Длина контекста: 32 768 исходное количество токенов, 131 072 с YaRN — Дата выпуска: май 2025 г. Lumen-8b-05-2025 был доработан на тщательно подобранном наборе данных, содержащем менее 5000 образцов из: 1. EvolKit-75K: высококачественный набор данных для настройки инструкций, созданный Arcee AI и используемый в обучающих моделях, таких как Arcee SuperNova и INTELLECT-1. Примерно две трети наших обучающих выборок были взяты из этого набора данных. 2. Academic-Chains: специализированный академический набор данных. Мы выбрали только образцы с показателем пригодности ≥ 0,5, что составляет примерно одну треть наших обучающих данных. Это первый выпуск нашей серии экспериментальных моделей Lumen. Мы планируем…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: NoeticLabs
Теги: qwen3, conversational, en
Лайков: 5 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
