ChaoticSoliloquy-4x8B-8bpw-h8-exl2
8bpw/h8 exl2 quantization of xxx777xxxASD/ChaoticSoliloquy-4x8B using default exllamav2 calibration dataset. Experimental RP-oriented MoE, the idea was to get...
Метка: 8-bit
Llama-3-Soliloquy-8B-exl2-h8-8.0
Soliloquy-L3 is a fast, highly capable roleplaying model designed for immersive, dynamic experiences. With a vast knowledge base,...
Meta-Llama-3-8B-fp8
Этот репозиторий содержит модель Llama 3 8B, квантованную в FP8 с помощью FriendliAI, что значительно повышает эффективность ее...
Mistral-7B-Instruct-v0.2-AQLM-2Bit-2×8
Official AQLM quantization of mistralai/Mistral-7B-Instruct-v0.2 . Модальности:Генерация текста Области применения:Диалог / чат Следование инструкциям Задача: Генерация текста Автор:...
Octopus-v1-gemma-7B
Octopus-V1, a series of advanced open-source language models with parameters ranging from 2B to 7B, represents Nexa AI’s...
XuanYuan-70B-Chat-8bit
XuanYuan-70B是基于Llama2-70b模型进行中文增强的一系列金融大模型，包含大量中英文语料增量预训练之后的底座模型以及使用高质量指令数据进行对齐的chat模型。 我们的目标是：大模型通用能力尽可能保持的同时，金融领域能力得到明显提升，服务于金融领域。 目前发布的模型和下载链接如下： 考虑到金融场景下存在非常多长文本的业务，基于我们高效的分布式训练框架，我们将模型的上下文长度在预训练阶段从4k扩充到了8k和16k，据我们所知，这也是首个在70B参数量级上达到8k及以上上下文长度的开源大模型。 具体细节参考：XuanYuan-70B — 我们设计了一套数据清洗流水线，精心准备了各类通用数据（互联网网页、百科、论坛、社交媒体、问答等）以及金融相关数据（金融资讯、公司公告、金融百科、金融书籍、证书试题等）高质量数据 — 中英数据：首先llama2的英文能力足够优秀，所以为了保证英文能力不降，我们扩充词表之后，使用高质量的中英语料进行增量预训练，其中中英配比为3:1； — 通用金融数据：为了提升模型在金融能力上效果，预训练过程中通用语料与金融 Модальности:Генерация текста Области применения:Диалог / чат Задача:...
tinyllama_1.8B_Trismegistus
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: aloobun Теги: llama, tinyllama, text-generation-inference, endpoints_compatible, 8-bit, bitsandbytesЛайков: 3...
llama-2-7b-custom-russian
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: Droidfanat Теги: llama, text-generation-inference, endpoints_compatible, 8-bitЛайков: 3 | Загрузок:...
jais-13b-chat-8bits
Demo google colab : https://colab.research.google.com/drive/13rz5tGDdHc3fTah8qT9rmOKdIg1ylqcD?usp=sharing Модальности:Генерация текста Области применения:Диалог / чат Задача: Генерация текста Автор: haouarin Теги: jais,...
llama2-70B-8bit
Модель генерации текста Модальности:Генерация текста Задача: Генерация текста Автор: caisarl76 Теги: llama, text-generation-inference, endpoints_compatible, 8-bitЛайков: 3 | Загрузок:...