Чат и поддержка: мой новый сервер Discord Хотите внести свой вклад? Страница TheBloke на Patreon Эти файлы представляют собой файлы моделей fp16 в формате pytorch для Robin 13B v2 от OptimalScale. Это результат слияния и/или преобразования исходного репозитория в float16. 4-битные модели GPTQ для вывода графического процессора. 2, 3, 4, 5, 6 и 8-битные модели GGML для вывода CPU+GPU * Неквантованная модель fp16 в формате pytorch, для вывода графического процессора и дальнейших преобразований. Для дальнейшей поддержки и обсуждения этих моделей и искусственного интеллекта в целом присоединяйтесь к нам по адресу: Многие люди спрашивали, могут ли они внести свой вклад. Мне нравится предоставлять модели и помогать людям, и я хотел бы иметь возможность уделять этому еще больше времени, а также заниматься новыми проектами, такими как точная настройка/обучение. Если вы можете и хотите внести свой вклад, он будет принят с большой благодарностью и поможет мне продолжать предоставлять больше моделей и начать работу над новыми проектами искусственного интеллекта. Жертвователи получат приоритетную поддержку по любым вопросам и запросам по AI/LLM/моделям, доступ к частной комнате Discord, а также другие преимущества. Patreon: https://patreon.com/TheBlokeAI Ko-Fi: https://ko-fi.com/TheBlokeAI Особая благодарность: Люку из CarbonQuill, Эймону Альгизу, Дмитрию Самсонову.…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: TheBloke
Теги: llama, text-generation-inference
Лайков: 4 | Загрузок: 46
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
