Я ОБлажался, ЭТА МОДЕЛЬ ПРЕДНАЗНАЧЕНА ДЛЯ BFLOAT16, Я СЕЙЧАС ПЕРЕДАЮ ЕЕ ПРАВИЛЬНЫМ СПОСОБОМ (посмотрите рецепт, он заканчивается на float16, я такой тупой, черт возьми). ДОЛЖНО быть еще лучше, я увидел проблему после тонкой настройки, что-то не так. Его можно использовать, он имеет лучший рейтинг, но он даже не на правильном уровне… KEK Фиксированная модель должна быть здесь: NeverSleep/Mistral-11B-OmniMix-bf16 Не обращайте на это внимания сейчас, мне нужно настроить его для RP, это всего лишь тест. Моя цель в отношении этой модели заключалась только в том, чтобы добиться максимально возможного результата с помощью слияния и экспериментирования слоев, доказывая, что: — Тесты объективны — Вы должны попробовать модель самостоятельно, а не идти вслепую к модели с самым высоким рейтингом — Игра слиянием/слоем МОЖЕТ быть использована для создания лучшей модели (может быть?) — Mistral-7B-OpenOrca — Mistral-7B-v0.1-Open-Platypus — CollectiveCognition-v1.1-Mistral-7B — zephyr-7b-alpha Или используйте любую систему подсказок из одной из 4-х исходных моделей, должно работать. Он получил название «Мистраль-11Б-ТестБенч11», имейте это в виду, просматривая это. hf-causal-experimental (pretrained=/content/drive/MyDrive/Mistral-11B-Test), предел: нет, предоставленное описание: ложь, numfewshot: 0, пакетный_размер: 4. Вы можете найти всю мою работу…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: Undi95
Теги: mistral, text-generation-inference, endpoints_compatible
Лайков: 15 | Загрузок: 57
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
