h2o-danube-1.8b-sft — это усовершенствованная модель чата от H2O.ai с 1,8 миллиардами параметров. Мы выпускаем три версии этой модели: Корректируем архитектуру Llama 2 суммарно примерно на 1,8b параметров. Подробную информацию можно найти в нашем техническом отчете. Мы используем оригинальный токенизатор Llama 2 с размером словаря 32 000 и обучаем нашу модель до длины контекста 16 384. Включаем скользящее окно внимания от Мистраля размером 4096. Чтобы использовать модель с библиотекой трансформаторов на машине с графическими процессорами, сначала убедитесь, что у вас установлена библиотека трансформаторов. Вы можете загрузить модели с помощью квантования, указав или . Кроме того, можно выполнить шардинг на нескольких графических процессорах, установив . Эта модель была обучена с использованием H2O LLM Studio и с конфигурацией в cfg.yaml. Посетите H2O LLM Studio, чтобы узнать, как обучать собственные большие языковые модели. Пожалуйста, внимательно прочтите этот отказ от ответственности перед использованием большой языковой модели, представленной в этом репозитории. Использование вами модели означает ваше согласие со следующими положениями и условиями. — Предвзятость и оскорбления: большая языковая модель обучена на широком спектре текстовых интернет-данных, которые могут содержать предвзятые, расистские,…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: h2oai
Теги: mistral, gpt, llm, large language model, h2o-llmstudio, conversational, en, text-generation-inference
Лайков: 11 | Загрузок: 152
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
