Ресурсы и техническая документация: Технический отчет: Набор инструментов ответственного генеративного искусственного интеллекта > [!ВАЖНО] > > В llama.cpp и других связанных инструментах, таких как Ollama и LM Studio, убедитесь, что эти флаги установлены правильно, особенно в отношении повторного штрафа. Георгий Герганов (автор llama.cpp) поделился своим опытом на странице https://huggingface.co/google/gemma-7b-it/discussions/38#65d7b14adb51f7c160769fa1. CodeGemma — это коллекция легких моделей с открытым кодом, построенных на основе Gemma. Модели CodeGemma представляют собой модели преобразования текста в текст и преобразования текста в код только для декодера и доступны в виде предварительно обученного варианта с 7 миллиардами параметров, который специализируется на задачах завершения кода и генерации кода, варианта с настроенными инструкциями на 7 миллиардов параметров для чата кода и следования инструкциям и предварительно обученного варианта с 2 миллиардами параметров для быстрого завершения кода. Подробную карту модели можно найти по адресу https://huggingface.co/google/codegemma-1.1-2b. Бенчмарк | 2Б | 2Б (1,1) | 7Б | 7Б-ИТ | 7B-IT (1.1) —————-|——|———-|——|——-|———— HumanEval | 31,1 | 37,8 | 44,5 | 56,1 | 60,4 МБПП | 43,6 | 49,2 | 56,2 | 54,2 | 55.6 HumanEval, однострочный | 78,4…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: google
Теги: llama.cpp, gguf, endpoints_compatible
Лайков: 6 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
