У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) здесь — также работает для SmolLM!: https://colab.research.google.com/drive/1Ys44kVvmeZtnICzWz0xgpRnrIOjZAuxp?usp=sharing Все ноутбуки подходят для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю доработанную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Эта разговорная записная книжка полезна для шаблонов ShareGPT ChatML/ Vicuna. — Этот блокнот для завершения текста предназначен для необработанного текста. Эта записная книжка DPO воспроизводит Zephyr. — * Kaggle имеет 2x T4, но мы используем 1. Из-за накладных расходов 1x T4 в 5 раз быстрее. SmolLM — это серия небольших языковых моделей, доступных в трех размерах: 135M, 360M и 1.7B. Эти модели предварительно обучаются на SmolLM-Corpus, кураторской коллекции высококачественных образовательных и синтетических данных, предназначенных для обучения LLM. Подробнее читайте в нашем блоге. Чтобы построить SmolLM-Instruct, мы доработали базовые модели на общедоступных наборах данных. Модели v0.2 лучше остаются в теме и адекватно реагируют на стандартные подсказки, такие как приветствия и вопросы об их роли в качестве помощников ИИ. SmolLM-360M-Instruct (v0.2) имеет коэффициент выигрыша 63,3% над…
Модальности:
Генерация текста
Области применения:
Диалог / чат Следование инструкциям
Задача: Генерация текста
Автор: unsloth
Теги: llama, alignment-handbook, trl, unsloth, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 395
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
