Мы представляем AmberChat, инструкцию по модели, доработанную из LLM360/Amber. AmberChat является частью модельной серии Pebble компании LLM360. — Тип модели: языковая модель с той же архитектурой, что и LLaMA-7B — Язык(и) (NLP): английский — Лицензия: Apache 2.0 — Ресурсы для получения дополнительной информации: — Метрики — Полностью обработанные данные предварительного обучения Amber — Код точной настройки Чтобы использовать квантованную версию AmberChat на своем персональном компьютере или ноутбуке, выполните следующие действия: 1. Сначала установите Ollama, следуя инструкциям, представленным здесь. Затем загрузите контрольную точку квантовой модели (например, amberchat.Q8_0.gguf для 8-битной версии) с TheBloke/AmberChat-GGUF. Создайте файл модели Ollama локально, используя шаблон, представленный ниже: Убедитесь, что директива FROM указывает на загруженный файл контрольной точки. 3. Чтобы запустить модель из командной строки, выполните следующее: Вам нужно построить модель один раз, а затем ее можно будет просто запустить.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: LLM360
Теги: llama, nlp, llm, en, text-generation-inference, endpoints_compatible
Лайков: 25 | Загрузок: 386
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
