nassersala/bloom-small-166

This repository hosts a significantly smaller version of the BLOOM model, designed primarily for functional testing purposes. It is an ideal choice for scenarios where computational efficiency and quick iterations are necessary, such as in development and testing environments. The original BLOOM model has been scaled down with the following changes: — Number of Layers (nlayer): Reduced to 12 from the original 70 layers. — Hidden Size (hiddensize): Decreased to 512 from the original 14336. — Number of Attention Heads (n_head): Lowered to 8 from the original 112 heads. This model is suitable for functional testing and development purposes. It is not recommended for tasks that require high accuracy or complex language understanding and generation capabilities. Please note that due to the significant reductions in size and complexity, this model does not retain the full capabilities of the original BLOOM model. Expect limitations in accuracy and depth of language understanding.

Модальности:
Генерация текста

Задача: Генерация текста
Автор: nassersala
Теги: bloom, en, text-generation-inference, endpoints_compatible
Лайков: 3 | Загрузок: 16

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.

Похожие модели (Генерация текста)

Генерация текста

DMindAI/DMind-1-mini

— Введение — 1. Обзор модели — 2. Результаты оценки — 3. Варианты использования — 4. Краткое руководство...

Генерация текста

iwalton3/sycofact

SycoFact — это средство оценки выравнивания, настроенное на базе Gemma 3 4B IT. Он предназначен для обнаружения подхалима...

Генерация текста

bartowski/kldzj_gpt-oss-120b-heretic-GGUF

Исходная модель: https://huggingface.co/kldzj/gpt-oss-120b-heretic. Все кванты сделаны с использованием опции imatrix с набором данных отсюда в сочетании с подмножеством...

Генерация текста

MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp-GGUF

— Создатель модели: MaziyarPanahi — Исходная модель: MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp-GGUF содержит файлы моделей формата GGUF для MaziyarPanahi/BASH-Coder-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp. Спасибо TheBloke...