TASMAYU/bonsai-diffusionLM-modernbert - Каталог нейросетей
Генерация текста

TASMAYU/bonsai-diffusionLM-modernbert

Добавлено:
TASMAYU/bonsai-diffusionLM-modernbert

A lightweight diffusion language model based on the LLaDA paper (Large Language Diffusion with masking). Unlike traditional autoregressive models (GPT) that generate left-to-right, this model starts from pure noise and iteratively unmasks tokens to generate coherent text. «`python from transformers import AutoModelForMaskedLM, AutoTokenizer import torch model = AutoModelForMaskedLM.frompretrained(«TASMAYU/bonsai-diffusionLM-modernbert») tokenizer = AutoTokenizer.frompretrained(«TASMAYU/bonsai-diffusionLM-modernbert») if tokenizer.masktoken is None: tokenizer.masktoken = «[MASK]» def generate(prompt=None, numsteps=64, seqlen=256): device = torch.device(«cuda» if torch.cuda.is_available() else «cpu») model.to(device) model.eval() if prompt: pro

Модальности:
Генерация текста


Задача: Генерация текста
Автор: TASMAYU
Теги: modernbert, fill-mask, diffusion, language-model, en, endpoints_compatible
Лайков: 4  |  Загрузок: 44

Открыть на HuggingFace →

Описание основано на материалах HuggingFace. Перевод выполнен автоматически.