Ссылка на исходную модель: https://huggingface.co/togethercomputer/RedPajama-INCITE-Chat-3B-v1 Это НЕ будет работать с llama.cpp по состоянию на 13 мая 2023 г., но это СЕЙЧАС работает (13 мая 2023 г.) с GGML в https://github.com/ggerganov/ggml/ через gpt-neox. Это также работает в моем проекте. https://github.com/keldenl/gpt-llama.cpp (использует ggml в качестве механизма вывода). RedPajama-INCITE-Chat-3B-v1 был разработан Together и лидерами сообщества искусственного интеллекта с открытым исходным кодом, включая Ontocord.ai, ETH DS3Lab, AAI CERC, Университет Монреаля, MILA — Квебекский институт искусственного интеллекта, Стэнфордский центр исследований фундаментальных моделей (CRFM), исследовательскую группу Stanford Hazy Research и LAION. Он настроен на OASST1 и Dolly2 для улучшения возможностей общения в чате. — Разработчик: Together Computer. — Тип модели: Языковая модель — Язык(и): английский — Лицензия: Apache 2.0 — Описание модели: Предварительно обученная языковая модель с параметрами 2,8B. Файл q40 обеспечивает более низкое качество, но максимальную совместимость. Он будет работать с предыдущими и будущими версиями llama.cpp. Файл q42 предлагает наилучшее сочетание производительности и качества. Этот формат все еще может быть изменен, и могут возникнуть проблемы с совместимостью, см. ниже. В файле q50 используется совершенно новый…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: keldenl
Теги: gpt_neox, red_pajama, en, endpoints_compatible
Лайков: 22 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
