У нас есть бесплатный ноутбук Google Colab Tesla T4 для Llama 3.1 (8B) здесь: https://colab.research.google.com/drive/1Ys44kVvmeZtnICzWz0xgpRnrIOjZAuxp?usp=sharing Все ноутбуки удобны для начинающих! Добавьте свой набор данных, нажмите «Запустить все», и вы получите в 2 раза более быструю точно настроенную модель, которую можно экспортировать в GGUF, vLLM или загрузить в Hugging Face. — Этот диалоговый блокнот полезен для шаблонов ShareGPT ChatML/Vicuna. — Этот блокнот для завершения текста предназначен для необработанного текста. Этот блокнот DPO копирует Zephyr. — * В Kaggle есть 2 T4, но мы используем 1. Из-за накладных расходов 1 T4 работает в 5 раз быстрее. C4AI Command R 08-2024 — это исследовательская версия высокопроизводительной генеративной модели с 35 миллиардами параметров. Command R 08-2024 — это большая языковая модель с открытыми весами, оптимизированная для различных случаев использования, включая рассуждения, обобщение и ответы на вопросы. Command R 08-2024 имеет возможность многоязычной генерации, обучен на 23 языках и оценен на 10 языках, а также обладает высокопроизводительными возможностями RAG. — Точка контакта: Cohere Для ИИ: cohere.for.ai — Лицензия: CC-BY-NC, требует также соблюдения Политики допустимого использования C4AI — Модель: c4ai-command-r-08-2024 — Размер модели: 35 миллиардов параметров -…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: unsloth
Теги: cohere, unsloth, conversational, en, text-generation-inference, endpoints_compatible, 4-bit, bitsandbytes
Лайков: 9 | Загрузок: 291
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
