spicyboros-c34b-2.2, квантованный до 4,0 баррелей в сутки в формате EXL2 для ExLlamaV2. Используя эту модель, вы соглашаетесь соблюдать условия, установленные для модели, на которой она основана, и соглашаетесь полностью возместить мне ущерб.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: JorritJ
Теги: llama, not-for-all-audiences, text-generation-inference
Лайков: 3 | Загрузок: 10
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Ресурсы и техническая документация: Технический отчет: Набор инструментов ответственного генеративного искусственного интеллекта > [!ВАЖНО] > > В llama.cpp...
Статья: Короче, но не хуже: экономное рассуждение с помощью простых примеров в качестве регуляризаторов длины в математике. Страница...
Исходная модель: https://huggingface.co/nvidia/Llama-3.1-Nemotron-70B-Instruct-HF Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Эта модель входит в серию моделей LaMini-LM, описанных в статье «LaMini-LM: Разнообразное стадо дистиллированных моделей из крупномасштабных инструкций»....
