Это доработка моей попытки воссоздать модель Blackroot, но на этот раз с Llama 3.2 3B на водительском месте. Я доработал эту маленькую модель с помощью Kaggle TPU v3-8, потому что, давайте посмотрим правде в глаза — я разорен. Работать с бюджетом ровно в 0 долларов означает выжимать каждую каплю бесплатных вычислений так, как будто они мне должны деньги. Первая доработка? 3 эпохи. Второй? Кто знает — возможно, около 5 эпох, но эй, кто сейчас считает? Kaggle ограничивает меня 9 часами на сеанс, поэтому, естественно, мне пришлось пройти полную ПАРТИЗАНСКУЮ ТАКТИКУ. Когда я говорю «3 эпохи», не обманывайтесь тем, насколько невинно это звучит. Нет, на самом деле мне нравится называть это «распределенным обучением, экстремальным вариантом». Одна эпоха на каждую учетную запись Kaggle, прыгаю между ними, как будто пытаюсь уклониться от арендной платы. Это не совсем по правилам, но когда у тебя нет денег, ты проявляешь творческий подход. В первом поезде я бросил в микс каждый клочок текста, который попался мне в руки — все (кроме журналов, конечно, нужно оставить некоторые сюрпризы на потом). Если это был текст и я мог легально (или сомнительно легально) его захватить, он попадал в систему. Затем я выполнял вторую точную настройку, используя данные своего журнала — секретный соус. Мои поленья похожи на особый ингредиент бабушкиных блюд…
Модальности:
Генерация текста
Области применения:
Диалог / чат
Задача: Генерация текста
Автор: Hastagaras
Теги: llama, not-for-all-audiences, conversational, text-generation-inference, endpoints_compatible
Лайков: 11 | Загрузок: 7
Описание основано на материалах HuggingFace. Перевод выполнен автоматически.
