👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в Discord. Создатель модели: Sakana AI Исходная модель: DiscoPOP-zephyr-7b-gemma Квантование GGUF: предоставлено bartowski на основе версии llama.cpp b3145. Эта модель основана на модели Zephyr 7b Gemma, обученной с помощью совершенно новой техники под названием DiscoPOP. DiscoPOP — это обнаруженный алгоритм оптимизации предпочтений Sakana AI. Этот метод обучения является совершенно новым, открытым с помощью экспериментальной модели, побуждающей к открытию новых индивидуальных методов обучения. Под капотом модель увидит подсказку следующего формата: DiscoPOP был обнаружен с помощью нового метода, предложенного Sakana AI. В этом методе LLM предлагается предложить и реализовать новые функции потерь при оптимизации предпочтений на основе ранее оцененных показателей производительности. Этот процесс приводит к открытию ранее неизвестных алгоритмов оптимизации предпочтений. DiscoPOP представляет собой наиболее эффективный обнаруженный оптимизатор предпочтений. DiscoPOP получает более высокий балл (Награда) при меньшем отклонении от базовой модели (Дивергенция KL) по сравнению с существующими современными методами, такими как DPO. Для…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: lmstudio-community
Теги: gguf, alignment-handbook, generated_from_trainer, endpoints_compatible, imatrix, conversational
Лайков: 6 | Загрузок: 103
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
