SmolLM — это серия небольших языковых моделей, доступных в трех размерах: параметры 135M, 360M и 1,7B. Эти модели предварительно обучены в SmolLM-Corpus, тщательно подобранной коллекции высококачественных образовательных и синтетических данных, предназначенных для обучения LLM. Более подробную информацию можно найти в нашем блоге. Для создания SmolLM-Instruct мы настроили базовые модели на общедоступных наборах данных. Модели версии 0.2 лучше следят за темой и адекватно реагируют на стандартные подсказки, такие как приветствия и вопросы об их роли помощников ИИ. SmolLM-360M-Instruct (v0.2) имеет процент побед над SmolLM-360M-Instruct (v0.1) на AlpacaEval в 63,3%. Подробности можно найти здесь. Вы можете загрузить контрольную точку v0.1, указав в коде трансформеров ревизию=»v0.1″: ⚡ Для локальных приложений в этой подборке можно найти оптимизированные реализации модели в форматах MLC, GGUF и Transformers.js, а также быстрые браузерные демоверсии: https://huggingface.co/collections/HuggingFaceTB/local-smollms-66c0f3b2a15b4eed7fb198d0 Мы заметили, что 4-битное квантование ухудшает качество 135M и 360M, поэтому мы используем q016 для контрольных точек MLC и ONNX/Transformers.js для демонстраций WebGPU. Также мы предлагаем использовать…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: HuggingFaceTB
Теги: onnx, llama, alignment-handbook, trl, sft, conversational, en, text-generation-inference
Лайков: 117 | Загрузок: 10,786
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
