Судя по измененным критериям таблицы лидеров Open-AI-LLM, показатель оценки впервые превысил 50 процентов. Я очень горжусь собой, хотя эта оценка скоро отойдет на второй план, поскольку я просто проверяю гипотезу, а не соревнуюсь, а из 7B выходит много отличных моделей. Поскольку моя основная работа — техническая поддержка, а не исследования и разработки, я не мог тратить на это много времени, поэтому обработал всего около 1000 образцов и настроил их с помощью DPO (оптимизация прямых предпочтений), чтобы уменьшить галлюцинации. Инфраструктура была такой же, как и раньше, с использованием AWS g5.12xlarge, никаких дополнительных подсказок не было. Я думаю, что потенциал базовой модели LLM огромен, учитывая, насколько сильно галлюцинации уменьшаются при очень небольшом количестве данных и без особых усилий. Когда я встречаюсь с клиентами, многие из них испытывают трудности с внедрением функций GenAI. Но для их реализации не потребуется много усилий, поскольку многие шаблонные коды/API хорошо сделаны. Это мир, в котором каждый, кто готов обрабатывать данные, может легко и быстро создать свою собственную модель качества. — 1000 образцов, сгенерированных мной. — Предложения, сгенерированные Amazon Bedrock Claude-2, были приняты как выбранные, а предложения…
Модальности:
Генерация текста
Задача: Генерация текста
Автор: daekeun-ml
Теги: llama, llama-2, dpo, ko, text-generation-inference, endpoints_compatible
Лайков: 19 | Загрузок: 9
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
