Ресурсы и техническая документация: Технический отчет: Набор инструментов ответственного генеративного искусственного интеллекта > [!ВАЖНО] > > В llama.cpp и других связанных инструментах, таких как Ollama и LM Studio, убедитесь, что эти флаги установлены правильно, особенно в отношении повторного штрафа. Георгий Герганов (автор llama.cpp) поделился своим опытом на странице https://huggingface.co/google/gemma-7b-it/discussions/38#65d7b14adb51f7c160769fa1. Краткое описание и краткое определение входов и выходов. CodeGemma — это коллекция легких моделей с открытым кодом, построенных на основе Gemma. Модели CodeGemma представляют собой модели преобразования текста в текст и преобразования текста в код только для декодера и доступны в виде предварительно обученного варианта с 7 миллиардами параметров, который специализируется на задачах завершения кода и генерации кода, варианта с настроенными инструкциями на 7 миллиардов параметров для чата кода и следования инструкциям и предварительно обученного варианта с 2 миллиардами параметров для быстрого завершения кода. Входные данные: Для вариантов предварительно обученной модели: префикс и/или суффикс кода для сценариев завершения и генерации кода или текст или подсказка на естественном языке: Для варианта модели с настроенными инструкциями: текст на естественном языке или подсказка. Выходные данные: Для вариантов предварительно обученной модели: завершение кода в середине, код…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: google
Теги: llama.cpp, gguf, endpoints_compatible
Лайков: 34 | Загрузок: 101
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
