yasserrmd/LFM2-350M-Extract-TOON — это доработанный вариант LFM2-350M-Extract от LiquidAI, созданный с использованием инфраструктуры Unsloth AI и набора данных yasserrmd/TOON-Unstructured-Structured. Эта модель специализируется на преобразовании текста на естественном языке на основе схемы в действительный формат TOON (токен-ориентированная нотация объектов) — компактная, эффективная с использованием токенов альтернатива JSON, разработанная для больших языковых моделей. Модель была обучена на 430 шагах со следующими ключевыми тенденциями: — Начальная потеря: 1,3793 — Окончательная потеря: 0,2178 — Самая низкая зарегистрированная потеря: 0,2043 — Устойчивая конвергенция после шага 250 с постоянным снижением ниже 0,3. — Метод обучения: Unsloth LoRA (ранг 16, альфа 32, скорость обучения 2e-4, размер пакета 64). — Аппаратное обеспечение: 1x NVIDIA T4 (15 ГБ видеопамяти). — Продолжительность: 30 минут. Обучение продемонстрировало высокую стабильность и плавную сходимость к потерям менее 0,25, что подтверждает отличную адаптацию базовой модели к структуре TOON. Схема должна быть явной; общие подсказки снижают точность. Выравнивание только на английском языке (тонкой многоязычной настройки пока нет).
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: yasserrmd
Теги: lfm2, instruction-tuning, structured-output, toon, unsloth, lora, conversational, en
Лайков: 6 | Загрузок: 31
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.