unbias/PasDePitiePourLeCroissantLLMBaseTest - Каталог нейросетей
Генерация текста

unbias/PasDePitiePourLeCroissantLLMBaseTest

Добавлено:
unbias/PasDePitiePourLeCroissantLLMBaseTest

PasDePitiéPourLeCroissantLLM был создан компанией UnBias (https://www.unbias.fr) с использованием собственной технологии Harpax на основе 24 слоев инициативы CroissantLLM, 1,345 (так называемых «1,5») миллиардов параметров модели croissantllm/CroissantLLMBase (5,3 Go ROM) до 282 миллионов параметров и 3 слоев (709 Mo). ПЗУ). Это колоссальное сокращение размера, скорости, энергии и выбросов углекислого газа на 80%. Ваш бюджет на вычисления в 100 000 евро может позволить вам либо увеличить объем вычислений в 5 раз, либо сэкономить 80 000 евро. Однако эта версия модели НЕ ПОДДЕРЖИВАЕТСЯ с UnBias Harpax CrystALS, поскольку UnBias Harpax UnCrystALS вернула ее к стандартной архитектуре. Версия CrystALS имеет 182 миллиона параметров и помещается на 200Mo ПЗУ. Версия UnBias Harpax CrystALS приведет к сокращению на 87% по сравнению с базовым уровнем размера, скорости, энергии и потребления углерода. Ваш бюджет на вычисления в 100 000 евро может позволить вам либо увеличить объем вычислений в 7,7 раз, либо сэкономить 87 000 евро. И последнее, но не менее важное: чем больше становится модель, тем больше становится коэффициент сжатия, примерно в 50 раз для моделей класса с 70 миллиардами параметров. Чтобы воспользоваться преимуществами UnBias Harpax CrystALS, свяжитесь с нашим отделом продаж для получения дополнительной информации…

Модальности:
Генерация текста

Области применения:
Генерация кода Диалог / чат Юриспруденция


Задача: Генерация текста
Автор: unbias
Теги: llama, text-generation-inference, legal, code, art, conversational, fr, en
Лайков: 5  |  Загрузок: 0

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.