Ссылка на исходную модель: https://huggingface.co/togethercomputer/RedPajama-INCITE-Instruct-3B-v1 Это НЕ будет работать с llama.cpp по состоянию на 13 мая 2023 г., но это СЕЙЧАС работает (13 мая 2023 г.) с GGML в https://github.com/ggerganov/ggml/ через gpt-neox. Это также работает в моем проекте. https://github.com/keldenl/gpt-llama.cpp (использует ggml в качестве механизма вывода). RedPajama-INCITE-Instruct-3B-v1 был разработан Together и лидерами сообщества искусственного интеллекта с открытым исходным кодом, включая Ontocord.ai, ETH DS3Lab, AAI CERC, Университет Монреаля, MILA — Квебекский институт искусственного интеллекта, Стэнфордский центр исследований фундаментальных моделей (CRFM), исследовательскую группу Stanford Hazy Research и LAION. Модель была точно настроена для малократных приложений на данных GPT-JT, за исключением задач, которые пересекаются с основными сценариями HELM. — Разработчик: Together Computer. — Тип модели: Языковая модель — Язык(и): английский — Лицензия: Apache 2.0 — Описание модели: Предварительно обученная языковая модель с параметрами 2,8B. Для подсказки модели чата используйте типичный формат инструкций + несколько подсказок, например: Файл q40 обеспечивает более низкое качество, но максимальную совместимость. Он будет работать с прошлыми и будущими версиями llama.cpp. Файл q42…
Модальности:
Генерация текста
Области применения:
Следование инструкциям
Задача: Генерация текста
Автор: keldenl
Теги: gpt_neox, red_pajama, en, endpoints_compatible
Лайков: 10 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
