OrcaMiniV92Llama-3.3-70B-Instruct обучен различным наборам данных SFT на Llama-3.3-70B-Instruct «Одержим потенциалом GenAI с открытым исходным кодом? So am I ! Let’s Contribute 🚀 together https://www.linkedin.com/in/pankajam» Предоставляя надлежащий кредит и атрибуцию, вам предоставляется разрешение на использование этой модели в качестве основополагающей базы для дальнейшей полной тонкой настройки, настройки DPO, PPO или ORPO и любых видов слияний. Я активно призываю пользователей настраивать и улучшать модель в соответствии с их конкретными потребностями, поскольку эта версия разработана как всеобъемлющая общая модель. Погружайтесь и внедряйте инновации! Ниже показан пример кода о том, как использовать эту модель в формате половинной точности по умолчанию (bfloat16), требуется около ~ 133 ГБ VRAM. Ниже показан пример кода о том, как использовать эту модель в 4-разрядном формате с помощью библиотеки bitsandbytes, требуется около ~ 39 ГБ VRAM. Ниже показан пример кода о том, как использовать эту модель в 8-разрядном формате с помощью библиотеки bitsandbytes, требуется около ~ 69 ГБ VRAM. В рамках нашего подхода к ответственному выпуску мы следовали трехсторонней стратегии управления доверием.
Модальности:
Генерация текста
Области применения:
Диалог / чат Математика
Задача: Генерация текста
Автор: pankajmathur
Теги: llama, conversational, en, text-generation-inference, endpoints_compatible
Лайков: 4 | Загрузок: 16
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
