Представляем EverythingLM, универсальную модель 13b на базе llama-2 с контекстом 16k благодаря LlongMa. Модель обучена на наборе данных EverythingLM-V2, дополнительную информацию можно найти на странице набора данных. Несмотря на то, что базовая модель «без цензуры», она устойчива; возможно, вам придется разработать определенные подсказки. https://huggingface.co/TheBloke/EverythingLM-13B-V2-16K-GGML Обязательно используйте правильные настройки масштабирования веревки: -c 16384 —rope-freq-base 10000 —rope-freq-scale 0,25 https://huggingface.co/TheBloke/EverythingLM-13B-V2-16K-GPTQ — автоматически запускается Рассуждения ЦТ. — Многословные и подробные ответы. — Творческие истории. — Лучшее быстрое понимание. — Гораздо умнее — Значительно улучшено повествование — Лучшее рассуждение — СОВЕТ: используйте низкую температуру для рассуждения на вопросы, это работает намного лучше. Здесь у вас есть несколько вариантов. Производительность может быть немного хуже с первым (нужно тестирование), но я добавил системное приглашение, которое будет «как искусственный интеллект», поэтому выбирайте, какой из них работает лучше всего. — Родная тонкая настройка. — Другие размеры модели. — Протестируйте слияние некоторых моделей, используя эту модель.
Модальности:
Генерация текста
Задача: Генерация текста
Автор: totally-not-an-llm
Теги: llama, text-generation-inference, endpoints_compatible
Лайков: 31 | Загрузок: 1,101
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
