Theia-Llama-3.1-8B-v1 — это криптографический LLM с открытым исходным кодом, обученный с использованием тщательно разработанного набора данных из области криптографии. Набор обучающих данных формируется из двух основных источников для создания комплексного представления проектов блокчейна. Первый источник — это данные, собранные с помощью CoinMarketCap, в которых основное внимание уделяется 2000 лучшим проектам, ранжированным по рыночной капитализации. Сюда входит широкий спектр документов по конкретным проектам, таких как технические документы, официальные сообщения в блогах и новостные статьи. Второй основной компонент набора данных включает подробные исследовательские отчеты по этим проектам, собранные из различных надежных источников в Интернете, обеспечивающие углубленное понимание основ проекта, прогресса разработки и влияния на рынок. После построения набора данных применяется как ручная, так и алгоритмическая фильтрация для обеспечения точности данных и устранения избыточности. Theia-Llama-3.1-8B-v1 представляет собой доработанную базовую модель (Llama-3.1-8B), специально разработанную для криптовалютной сферы. Мы использовали LoRA (адаптацию низкого ранга) для эффективной настройки модели, используя ее способность адаптировать большие предварительно обученные модели к конкретным задачам с меньшими вычислительными затратами. Наша методика обучения…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Chainbase-Labs
Теги: llama, conversational, text-generation-inference, endpoints_compatible
Лайков: 16 | Загрузок: 28
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
