Это квантованная версия ibm-granite/granite-3.1-1b-a400m-base, созданная с использованием llama.cpp. Краткое описание модели: Granite-3.1-1B-A400M-Base расширяет длину контекста Granite-3.0-1B-A400M-Base с 4 КБ до 128 КБ, используя стратегию прогрессивного обучения путем постепенного увеличения поддерживаемой длины контекста и корректировки теты RoPE до тех пор, пока Модель успешно адаптировалась под нужную длину 128к. Этот этап предварительного обучения с длинным контекстом был выполнен с использованием примерно 500 миллиардов токенов. — Разработчики: Granite Team, IBM — Репозиторий GitHub: ibm-granite/granite-3.1-language-models — Веб-сайт: Granite Docs — Бумага: Языковые модели Granite 3.1 (скоро) — Дата выпуска: 18 декабря 2024 г. — Лицензия: Apache 2.0 Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, голландский и китайский. Пользователи могут настроить модели Granite 3.1 для языков, помимо этих 12 языков. Использование по назначению. Наиболее распространенные варианты использования LLM при преобразовании текста в текст включают обобщение, классификацию текста, извлечение, ответы на вопросы и многое другое. Все модели Granite Base способны справиться с этими задачами, поскольку они были обучены на большом объеме данных из различных областей.…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: QuantFactory
Теги: gguf, language, granite-3.1
Лайков: 6 | Загрузок: 177
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
