TraceBack — это то, что я придумал, когда подумал: «Как мы можем эффективно масштабировать генерацию данных трассировки рассуждений?» Оказывается, вам не нужно полагаться только на модели рассуждения (r1, o1, o3 и т. д.), чтобы создать след рассуждения! У него много целей, но главным образом: — обеспечение более быстрого создания набора данных для синтетических рассуждений, поскольку здесь мы используем небольшую модель (меньше, чем r1 и т. д.), поэтому быстрее делать выводы и, следовательно, легче масштабировать — фильтровать синтетические трассы для непроверяемых проблем, выходящих за пределы предметной области — преобразование любых выходных данных/наборов данных модели рассуждений в синтетический набор данных для рассуждений при использовании в качестве входных данных. На данный момент в текущем доказательстве концепции удалось установить флажки для 1 и 3, и я планирую сделать следующее. масштабирование это больше как: — здесь используется только Mistral Nemo 12b в качестве базы — Обучался только в течение 2 эпох — Для точной настройки было использовано только 200 тыс. образцов (Qlora), набор данных по адресу https://huggingface.co/datasets/secemp9/instructionsolution Thought. Это было обучено с использованием как инструкции, так и решения в качестве входных данных, а выходные данные представляли собой правдоподобную/возможную/соответствующую трассировку рассуждений, основанную на этом. Я считаю, что это будущее генерации логических данных. Следите за обновлениями для ознакомительной версии. Вот пример вывода с использованием chatgpt…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: secemp9
Теги: mistral, generated_from_trainer, conversational, text-generation-inference, endpoints_compatible, 4-bit, bitsandbytes
Лайков: 33 | Загрузок: 6
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
