> Очень маленький человек может отбрасывать очень большую тень. > > —— Джордж Р. Р. Мартин, Битва королей [Технический отчет (скоро)] [Демо] [Github] Проект Imp направлен на создание семейства сильных мультимодальных моделей малых языков (MSLM). Наш imp-v1-3b — это мощный MSLM с параметрами всего 3B, который создан на основе небольшого, но мощного SLM Phi-2 (2,7B) и мощного визуального кодировщика SigLIP (0,4B) и обучен на обучающем наборе LLaVA-v1.5. Как показано на изображении ниже, imp-v1-3b значительно превосходит аналоги моделей аналогичного размера и даже демонстрирует немного лучшую производительность, чем сильная модель LLaVA-7B в различных мультимодальных тестах. Мы опубликуем веса нашей модели и приведем ниже пример для запуска нашей модели. Подробный технический отчет и соответствующий код обучения/оценки скоро будут опубликованы в нашем репозитории GitHub. Мы будем постоянно улучшать нашу модель и выпускать следующие версии для дальнейшего улучшения производительности модели 🙂 Вы можете использовать следующий код для вывода модели. Формат текстовой инструкции аналогичен LLaVA. Страница Colab для запуска этого примера представлена здесь. Примечание…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: MILVLG
Теги: imp, custom_code
Лайков: 201 | Загрузок: 103
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
