У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) — он также работает для SmolLM!: https://colab.research.google.com/drive/1Ys44kVvmeZtnICzWz0xgpRnrIOjZAuxp?usp=sharing Все ноутбуки удобны для новичков! Добавьте свой набор данных, нажмите «Выполнить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот диалоговый блокнот полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — * В Kaggle есть 2 T4, но мы используем 1. Из-за накладных расходов 1 T4 работает в 5 раз быстрее. SmolLM — это серия небольших языковых моделей, доступных в трех размерах: параметры 135M, 360M и 1,7B. Эти модели предварительно обучены в SmolLM-Corpus, тщательно подобранной коллекции высококачественных образовательных и синтетических данных, предназначенных для обучения LLM. Более подробную информацию можно найти в нашем блоге. Для создания SmolLM-Instruct мы настроили базовые модели на общедоступных наборах данных. Модели версии 0.2 лучше следят за темой и адекватно реагируют на стандартные подсказки, такие как приветствия и вопросы об их роли помощников ИИ. СмоллЛМ-360М-Инструкт (v0.2) имеет процент побед 63,3% над…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: unsloth
Теги: llama, alignment-handbook, trl, unsloth, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 1,555
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
