santacoderpack
SantaCoderPack — это предварительно обученная модель с той же архитектурой, что и SantaCoder, в CommitPack, использующая следующий формат:...
Метка: fill-mask
Qwen3-0.6B-diffusion-bd3lm-v0.1
Эта модель была представлена в статье dLLM: Simple Diffusion Language Modeling. Qwen3-0.6B-diffusion-bd3lm-v0.1 — это языковая модель на основе...
Qwen3-0.6B-diffusion-mdlm-v0.1
Qwen3-0.6B-diffusion-mdlm-v0.1 — это языковая модель на основе диффузии, адаптированная из Qwen3-0.6B с использованием MDLM (маскированная диффузия), обученная с...
deberta-xxlarge-fixed
Это обновление deberta-v2-xxlarge для реализации класса AutoModelForCausalLM, позволяющего генерировать текст. Эта реализация основана на нашей статье «BERT —...
ModernBERT-large-chat-v0.1
ModernBERT-large-chat-v0.1 — это языковая модель на основе диффузии, адаптированная из ModernBERT-large с использованием MDLM (маскированная диффузия), обученная с...
bd3lm-owt-block_size16
Марианна Арриола, Аарон Гокаслан, Джастин Тиу, Чжихан Ян, Чжисюань Ци, Цзяци Хан, Субхам Секхар Саху, Владимир Кулешов Мы...
macbert4csc-base-chinese
由于训练使用的数据使用了SIGHAN2015的训练集（复现бумага）,在SIGHAN2015的测试集上达到SOTA。如果需要训练macbert4csc，请参考https://github.com/shibing624/pycorrector/tree/master/pycorrector/macbert MacBERT — это улучшенный BERT с новой MLM в качестве корректирующей задачи предварительного обучения, которая смягчает несоответствие...