Кванты матрицы важности (imatrix) GGUF для https://huggingface.co/WhiteRabbitNeo/WhiteRabbitNeo-33B-v1.5. Матрица важности была обучена для 100 тыс. токенов (200 пакетов по 512 токенов) с использованием wiki.train.raw.
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: dranger003
Теги: gguf, endpoints_compatible, conversational
Лайков: 4 | Загрузок: 205
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
Pythia Scaling Suite — это набор моделей, разработанных для облегчения исследования интерпретируемости. Он содержит два набора по восемь...
Объединение универсальных/ролевых моделей на основе Llama 3. Модели выбраны из моего личного опыта во время их использования. Лично...
Rombos-LLM-V2.5-Qwen-72b представляет собой усовершенствованную версию Qwen2.5-72B. Недавно я заметил, что команда Qwen не извлекла уроков из моих методов...
Если вы увлечены большими языковыми моделями и хотите обмениваться знаниями и идеями, мы приглашаем вас присоединиться к нашему...
