LFM2.5-8B-A1B — текстовая модель общего назначения со следующими особенностями: — Общие параметры: 8.3B — Активные параметры: 1.5B — Количество слоев: 24 (18 double-gated LIV conv 6 GQA) — Бюджет обучения: 38 триллионов токенов — Длина контекста: 128 000 — Размер словаря: 128 000 — Языки: английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский — Параметры генерации: Рекомендуем следующие параметры: — температура: 0,2 — topk: 80 — re Это не лучший вариант для тяжелого программирования или ответа на наукоемкий вопрос без поиска. LFM2.5 использует формат, подобный ChatML. Подробнее см. в документации к шаблону чата. Пример: поскольку LFM2.5-8B-A1B является моделью рассуждений, повороты помощника содержат явную цепочку мыслей перед окончательным ответом. Вы можете использовать tokenizer.applychattemplate() для автоматического форматирования сообщений. 1. Определение функции: укажите список инструментов в качестве объекта JSON в системном приглашении или используйте tokenizer.applychattemplate () с…
Модальности:
Генерация текста
Области применения:
Диалог / чат Генерация кода
Задача: Генерация текста
Автор: coder3101
Теги: lfm2_moe, liquid, lfm2.5, edge, heretic, uncensored, decensored, abliterated
Лайков: 4 | Загрузок: 59
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
