Athene-V2-Chat-4.65bpw-h6-exl2
> [!NOTE] > EXL2 4.65bpw-h6 квантованная версия Nexusflow/Athene-V2-Chat. Поддерживает контекст 32 КБ с кешем Q4 в системах с...
> [!NOTE] > EXL2 4.65bpw-h6 квантованная версия Nexusflow/Athene-V2-Chat. Поддерживает контекст 32 КБ с кешем Q4 в системах с...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
Спасибо kalomaze и Dampf за помощь в создании набора калибровочных данных imatrix. Спасибо ZeroWw за вдохновение поэкспериментировать с...
Llama3-PBM-Nova-70B — модель чата, разработанная PKU-Baichuan-MLSysLab на основе Llama3-70B. Чтобы лучше использовать данные с открытым исходным кодом, мы...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
Исходная модель: https://huggingface.co/Nexusflow/Athene-V2-Chat Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Мы представляем Llama3-Athene-70B, LLM с открытыми весами, тренируемый через RLHF на основе Llama-3-70B-Instruct. Athene-70B получила высокий балл в...
Мы представляем Athene-V2-Chat-72B, LLM с открытым весом, который находится на одном уровне с GPT-4o во всех тестах. В...