Athene-V2-Chat-AWQ
Этот репозиторий предоставляет 4-битную квантованную версию AWQ модели Athene-V2-Chat, первоначально разработанную Nexusflow. Веса этой модели дополняются нулями перед...
Этот репозиторий предоставляет 4-битную квантованную версию AWQ модели Athene-V2-Chat, первоначально разработанную Nexusflow. Веса этой модели дополняются нулями перед...
> [!NOTE] > EXL2 4.65bpw-h6 квантованная версия Nexusflow/Athene-V2-Chat. Поддерживает контекст 32 КБ с кешем Q4 в системах с...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
Спасибо kalomaze и Dampf за помощь в создании набора калибровочных данных imatrix. Спасибо ZeroWw за вдохновение поэкспериментировать с...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
Исходная модель: https://huggingface.co/Nexusflow/Athene-V2-Agent Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
👾 Программа хайлайтов моделей LM Studio Community. Выделение новых и заслуживающих внимания моделей сообществом. Присоединяйтесь к обсуждению в...
Исходная модель: https://huggingface.co/Nexusflow/Athene-V2-Chat Некоторые из этих квантов (Q3KXL, Q4KL и т. д.) представляют собой стандартный метод квантования, в...
Athene-V2-Agent — это агент LLM с открытым исходным кодом, который превосходит самые современные возможности вызова функций и агентских...
Мы представляем Llama3-Athene-70B, LLM с открытыми весами, тренируемый через RLHF на основе Llama-3-70B-Instruct. Athene-70B получила высокий балл в...