Этот репозиторий содержит файлы моделей формата GGUF для h2o-danube-1.8b-chat от h2oai. > h2o-danube-1.8b-chat — это усовершенствованная модель чата от H2O.ai с 1,8 миллиардами параметров. Подробную информацию можно найти в нашем техническом отчете. Мы выпускаем три версии этой модели: > > — h2oai/h2o-danube-1.8b-base Базовая модель > — h2oai/h2o-danube-1.8b-sft с настройкой SFT > — h2oai/h2o-danube-1.8b-chat SFT + настройка DPO > Мы корректируем архитектуру Llama 2 в общей сложности примерно для 1.8b параметров. Мы используем оригинальный токенизатор Llama 2 с размером словаря 32 000 и обучаем нашу модель до длины контекста 16 384. Включаем скользящее окно внимания от Мистраля размером 4096. GGUF — это формат файла для представления моделей искусственного интеллекта. Это третья версия формата, представленная командой llama.cpp 21 августа 2023 года. Это замена GGML, который больше не поддерживается llama.cpp. Преобразовано с использованием llama.cpp b2037 (1cfb537) > Здравый смысл, мировоззрение и понимание прочитанного проверено с помощью 0-го выстрела:
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: brittlewis12
Теги: gguf, gpt, llm, large language model, h2o-llmstudio, en, conversational
Лайков: 6 | Загрузок: 116
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
