Zicara/OPT-30B-Erebus-4bit-128g - Каталог нейросетей
Генерация текста

Zicara/OPT-30B-Erebus-4bit-128g

Добавлено:
Zicara/OPT-30B-Erebus-4bit-128g

Внимание: ЭТА модель НЕ предназначена для использования несовершеннолетними. Модель будет выводить контент с рейтингом X. Это 4-битное GPTQ-квантование OPT-30B-Erebus, исходная модель: https://huggingface.co/KoboldAI/OPT-30B-Erebus. Вывод генерируется за 54,23 секунды (0,87 токенов/с, 47 токенов, контекст 44, начальное число 593020441). OPT-30B лицензируется по лицензии OPT-175B, Авторские права (c) Meta Platforms, Inc. Все права защищены.

Модальности:
Генерация текста

Задача: Генерация текста
Автор: Zicara
Теги: opt, en, text-generation-inference
Лайков: 17  |  Загрузок: 221

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Теги: #en #opt #text-generation-inference

Похожие модели (Генерация текста)

Генерация текста

UnfilteredAI/Mia-001

Описание: Mia-001 — это модель генерации текста ИИ без цензуры, разработанная MysteriousAI и направленная на развитие и демократизацию...

868
HF Подробнее
Генерация текста

OrionStarAI/OrionStar-Yi-34B-Chat

— OrionStar-Yi-34B-Chat 是一款开源中英文Chat模型,由猎户星空基于Yi-34B开源模型、使用 15W+高质量语料微调而成。 — Yi系列模型是由零一万物团队开源的大模型,在多个权威的中文、英文及通用领域 эталонный тест上取得不错的效果。今天我们推出的Орионстар-Йи-34Б- Чат更进一步挖掘了Yi-34B的潜力。通过对大量高质量微调语料库的深度训练,Orionstar-Yi-34B-Chat在评估数据上表现出色，我们致力于将其打造成为ChatGPT领域中的杰出开源替代品！我们使用opencompass对以下通用领域数据集进进行了 5-shot 测试。其他模型评估结果取自opencompass-leaderboard。在上述两段代码中, 模型加载指定 devicemap=’auto’ экспорт. CUDAVISIBLEDEVICES=0,1`(使用了0、1号显卡)的方式控制。 猎户星空(ORION) STAR）是一家全球领先的服务机器人解决方案公司,成立于9 сентября...

8
HF Подробнее