LORA, почему кажется, что не работает, и как не потратить день в пустую — Гайды на DTF
Требования
7831 просмотров
Сразу о них перед стартом, что бы понять, нужно ли вам читать это вообще.
Здесь не будет красивых картинок, чисто гайд и одна картинка для сравнения. Если вы ищите картинки — посмотрите мои старые посты.
Гайд не трудный, но многие моменты на данный момент просто не известны. Работаю с тем, что есть. Так же могут быть проблемы с установкой Dreambooth, но я справился — а значит и в вас поверю.
LORA тренируется быстрее чем Dreambooth и потребляет куда меньше памяти.
Тренировка на 8 гигах VRAM РАБОТАЕТ.
Возможно работает даже на 6, я не проверял, НО, с xformers я могу запускать батч 4, поэтому скорее всего правда, а если нет — используйте flash attention.
Предисловие
LORA это мой первый опыт с Dreambooth-подобной тренировкой модели лично. Что бы она заработала так, как нужно, требуется достичь некоего барьера, который бы перезаписал знание токена, что требует от 6 до 13+ тысяч шагов, судя по треду, а так же судя по личным наблюдениям.
Так же я пытался сделать тренировку сразу трёх стилей, но она закончилась абсолютным позором, видимо, нужно куда больше шагов, хоть я и сделал 15х4, то есть 15 тысяч шагов на градиенте 4, но, кажется, его лучше не включать(точнее включить, но оставить на 1, иначе много жрёт без него). Так же я пока не совсем понимаю, что нужно указать, а что не нужно, в концепте, что бы получить стиль, привязанный к конкретному токену. На данный момент стиль будет расползаться в принципе по всей модели, но в данном случае это нам не мешает. Сам токен будет усиливать стиль. То как это, возможно, можно побороть — в гайде.
Данная тренировка может использоваться для изучения вещей, персонажей, действий, и т.д. В данном случае мы тренируем само понимание модели того, как и что должно выглядеть, ориентируясь на тэги датасета.
В данном гайде я рассмотрю нужные настройки, пройдусь по базе, которую нужно знать при составлении датасета, и сравню результаты действия голой LORA модели против Anything3 с гиперсетью.
Преимущества LORA
Ну, начнём с самого очевидного — оно тренирует модель, что позволяет нам ещё больше кастомизировать наш нейроарт путём последующей тренировки нужных гиперсетей/инверсий на базе новой LORA модели, либо последующей тренировки LORA модуля для расширения возможностей, по типу добавления новых объектов, персонажей, стилей и т.д.
LORA, имхо, работает куда лучше с обучением специфическим деталям, чем гиперсети и инверсии, даже продвинутые. Вдаваться в них не буду, но я лично получил результаты лучше, чем все мои текущие гиперсети, основанные на работах художника, который был использован в данном датасете.(Используется только в личных целях)
Сетап
UI — AUTOMATIC1111
Модель — Anything3
VRAM — 8GB
Датасет — 102(204 аугментированных) картинки, обрезанные и протеганные вручную.
P.S. Аугментированные — это когда картинки повторяются, но в другом виде, например отзеркаленные, как в данном случае.
Другие значения нам не важны, так как каждая тренировка принесёт уникальный результат.
Подготовка
Что бы тренировать LORA, нужно установить Dreambooth, он присутствует во вкладке расширений.
Возможно придётся повозиться с удалением папки venv и переустановкой интерфейса с помощью батника, идущего вместе с расширением, но я представлю, что мы живём в мире, где люди способны справиться с базовым траблшутингом и не буду разбирать это.
Это всё, что нам понадобится из расширений.
Настройки
Я убил целый день вчера на разбор и подбор рабочих настроек… Но, оно работает! И я очень рад, ведь LORA работает очень хорошо.
Нас встретит вот такое окно, разбираться в нём — я ебал, честно. Но это лучше, чем было раньше. Волшебные кнопки вам не помогут, так как не заточены под LORA.
Первое — создаём модель.
Называете как хотите. Сурс — Anything3, или любая другая модель по вашему желанию.
Scheduler — на данный момент не изучено, что лучше, но подозреваю, что будет зависеть от объекта тренировки, медиума. Оставьте ddim, это стандарт.
EMA не трогайте, или трогайте, как хотите. Подсказка при создании намекает, что без этого флага хорошо для файн-тюна, а с этим флагом — для генерации картинок. Мы занимаемся файн-тюном по сути, но хотите — трогайте, должно и так и так работать.
Дальше у нас параметры.
Интервалы:
Можете тренировать по эпохам, а можете по шагам. Если у вас небольшой датасет — делайте по шагам, что бы не задать меньше, чем нужно. Я посоветую около 15к, если у вас 100 картинок и более.
Советую ничего не генерировать и не сохранять, то есть по нулям. Ибо сохраняется здесь вся модель, то есть 4 гига(2 на половинной модели) каждый раз. Генерация превью картинок лично у меня не работает вообще, даже в тестовом порядке вне тренировки. Советую отключить, либо протестить в окне дебаггинга перед стартом, если запустите с ней, а окажется, что оно не работает — потеряете тренировку.
Батч — оставляйте 1, если у вас 8 гигов и меньше. Класс батч нам не нужен, мы не будет генерировать картинки классификации для сохранения стиля основной модели.
LR — стандартный в какой-то из колонок на 2 нуля больше — делайте 0.0002, так как LORA требует более высокий рейт. Дальше ничего не трогайте, либо трогайте, если знаете, что трогать, но стандартное работает нормально.
Ничего не трогаем. Если датасет не имеет зеркальных картинок — ставим флип.
Вообще на счёт датасета:
По хорошему, нужно хотя бы сотку картинок, но LORA можно натренировать и на 10, но такой вариант я не буду рассматривать, это как заниматься мазохизмом.
Я понимаю, что тегать сотню картинок ручками очень лень, я уже проходил через это. Попробуйте использовать расширение WD1.4 Tagger, если у вас нет нужды тренировать какие-то нишевые фетиши, на данный момент ничего лучше для автоматизации данного процесса нет.
Без тегов вообще тренировать можно, но больно, долго и не факт, что вообще получится что-то годное.
ВАЖНО
Ставим LORA, 8bit Adam, и, если у вас 8 гигов — bf16 + default, если 6 — fp16 + xformers, либо flash attention, если не запустится с ними.
Латенты не кешируем, у нас память и так под лимиты, если 8/6.
Энкодер — тренируем, либо не тренируем, если вылетает OOM, у меня не вылетает, на 8 — можно.
Пад токенов — включаем, это уже настройки генерации промптов.
Теги — шафлим, это улучшит качество генерации вне зависимости от расположения тегов в промпте, но может замедлить тренировку.
Максимум токенов — смотрите по датасету, если длинные тексты — увеличиваем.
Градиенты — обязательны для 8/6. Без них ООМ. Оставьте на 1, мои эксперимент с 4 ни к чему не привели, вроде.
Адам не трогаем вообще, даже автор расширения не может дать рекомендации по этим настройкам. Нужны исследования.
Подготовка концепта
Задаём папку датасета, ставим токен.
ТОКЕН НЕ ДЛИННЫЙ, ИНАЧЕ ПРИДЁТСЯ ДОЛГО ТРЕНИРОВАТЬ, ИЗ-ЗА БОЛЕЕ ВЫСОКОГО КОЛИЧЕСТВА ВЕКТОРОВ.
Рекомендуется до 4 букв, желательно из токенов, которые занимают 1 вектор. Список таких вы может найти в интернете.
Класс токен — если вы тренируете какой-либо конкретный объект — классифицируйте его одним словом, типа man, woman и т.д. Это сократит нужное количество шагов, так как модель не будет пытаться искать классификацию сама. НО это уменьшит возможность кастомизации, так сказать, объект будет именно этим классом.
Инстанс промпт — это то, что будет кушать модель при тренировке, оно не обязательно, но если вы хотите хоть какие-то годные и быстрые результаты, то [filewords] обязателен, и обязательно хороший. И не забудьте в начале добавить наш токен.
Класс промпт — то же самое, но без нашего токена.
Далее я оставляю всё пустым, ибо не генерирую классификационные картинки и картинки посреди тренировки.
Тут ничего не трогаем. Ибо не используем prior preservation. Оно нужно, что бы сгенерировать классификационный датасет, который смешается с нашим основным, что бы сохранить основной стиль модели.
Можете попробовать, но придётся тренировать долго, и не факт, что получится.
Собственно Тренировка
Всё, нажимаем кнопочку Train. И ждём.
LORA тренируется быстрее чем обычный Dreambooth, но всё-равно займёт час-два для полноценной тренировки. В моём случае это примерно час сорок на 15300 шагов.
После окончания оно само соберёт вам модель, но LORA веса останутся, вы сможете смешать их с любой другой моделью, ведь они сохраняют только разницу, то есть то, что вы натренировали. Насколько это полезно — увидим. Свою LORA не дам. Тренируйте собственную.
P.S. Больше шагов — сильнее результат, я думаю потренировать ещё тысяч десять вдогонку к 15к например.
Сравнение
Можно видеть, что LORA очень сильно влияет на генерацию в целом. Что по стилю — она тоже его передаёт лучше. Но придётся верить мне на слово.
Пытаться так же мешать уже готовые гиперсети с новой LORA хуйня идея.
Тренируйте с нуля на её основе — тогда скорее всего сработает.
Да, я тренировал не что-то прям особенное, что позволило бы генерировать ещё более красивые арты, с точки зрения чисто эстетики, этим можете заняться вы. А мне нравится стиль и теги данного автора, и они работают куда лучше гиперсетки. Показывать я этого, конечно же, не буду. Данный стиль мне нравится чисто для личного пользования, для генерации красивых артов я щас поставлю тренировать другие модели 😀
Стереокартинки — тренировка ума и глаз
?Previous Entry | Next Entry
Все ли знают, что стереокартинки(они же 3D – картинки, объемные картинки, волшебные картинки, Magic eye) представляют собой не только предмет развлечения, но также являются прекрасным тернажером для мозга и глаз?Для глаз: при рассматривании стереокартинок глаз меняет свою привычную точку фокусировки- это снимает напряжение глаз и улучшает кровообращение, что способстует сохранения остроты зрения.
Для ума: рассматривание 3D – картинок позволяет привести мозг в изменненное состояние сознания. До полного проявления картинки мозг пыстается угадать, что же нарисовано на ней; концентрируется внимание; ум комбинирует части изображения, активно сопоставляя и дорисовывая. Таким образом еще и тренируется вображения, поскольку не всегда удается увидеть то, что на самом деле нарисовано — часто включается игра нашей фантазии.
Кроме того, существуют стереокартинки, совмещенные с загадками, ребусами, задачками, что несомненно еще больше повышает их степень полезности для развиия эруиции.
Как смотреть стереокартинки: существует несколько вариантов, но на мой взгляд, самый быстрый способ заключается в следующем: приблизьтесь к монитору на такое расстояние, чтобы взгляд получился расфокусированным. Лучше всего приблизиться вплотную чтобы изображение расплылось. Потом медленно отдаляйте голову от монитора (картинки), но взгляд не меняйте. Когда начнете отдаляться, некоторые фрагменты картинки будут приближаться к вам, а некоторые отдаляться, изображение начнет «плясать» и преобразовываться.
Смотрите спокойно, стараясь не моргать, не бегать взглядом по картинке. Смотрите внимательно на эти изменения и увидите тpехмеpное изображение. Когда изображение «поймано» можно внимательно рассмотреть все детали объекта или нескольких объектов.
Существуют простые стереокартинки, на которых изображен какой-либо рисунок:
А также стереокартинки-головоломки.
Задание: Нужно собрать слово из букв изображенных на стереокартинке. Внимательно рассмотрите картинку и назовите это слово?
Немного тренировок и картинка будет всплывать легко и быстро. Тенируйтесь на здоровье!:)
ТЭГИ:
- «косоглазки»,
- 3D – картинки,
- magic eye,
- волшебные картинки,
- объемные картинки,
- стереограммы,
- стереокартинки,
- трехмерки
- intellectusss
- Скорочтение и развитие памяти
- Суперпамять.Супермышление.Скорочтение
| February 2020 | ||||||
| S | M | T | W | T | F | S |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 | 29 |
- Тренинги личностного роста и развития
- Скорочтение.
Суперпамять.Супермышеление
Суперпамять.СупермышелениеСкорочтение и развитие памяти Prom.ua
Powered by LiveJournal.com
Бен Симмонс продолжает публиковать фотографии тренировок, поскольку энтузиазм в Австралии не ослабевает
Во вторник Бен Симмонс опубликовал в Instagram еще одну историю о своих тренировках. Изображение не было датировано и не содержало никакой информации о местоположении, но было приписано Крейгу Тернеру, известному личному тренеру, который работал с 76ers, когда Симмонс был в Филадельфии. Тернер появляется рядом с Симмонсом…
В последние недели Симмонс опубликовал фотографии, на которых он тренируется как в Учебном центре HSS в Бруклине, так и в спортзале Университета Майами, но ни одного из них на корте. (Распространяемому видео, на котором он якобы тренируется в Университете Джорджии, уже несколько лет, как сообщает его агент Берни Ли.
Бен Симмонс троллит, конечно, имеет большое значение в некоторых почтовых индексах.)
Тем временем в Австралии не ослабевает энтузиазм по поводу участия Симмонса в национальной сборной на чемпионате мира ФИБА. Брайан Гурджян, главный тренер «Бумерс», на этой неделе снова процитировал слова о том, как команда может использовать защитника/форварда ростом 6 футов 11 дюймов в своих схемах на чемпионате мира. Тренировочный лагерь бумеров открывается 1 августа в Кэрнсе на севере Австралии.
«Посмотрите на наш состав, и если есть проблема, то это, вероятно, размер, но (в лице Бена) у вас есть ситуация с парнем, который может охранять и делать все, что он хочет в нападении», — сказал Гурджян. СМИ внизу.
«Мяч в его руках, и вы дадите ему свободу действий. Тогда в обороне он очень хороший защитник. Он может охранять несколько позиций, а для нас, возможно, пять.
«Одна из вещей, о которых мы говорим в преддверии этого (чемпионата мира), — это то, что мы собираемся сделать с соперниками и их большими игроками, и он (Бен) был бы очень полезен в этом».
Симмонс не был включен в предварительный список из 18 игроков сборной Австралии, возглавляемый его товарищем по команде «Нетс» Пэтти Миллс, но Гурджиан сказал, что это в основном бумажная работа, и он держит место для Симмонса, если тот готов.
Мэтью Деллаведова, один из самых опытных игроков Австралии как на международной арене, так и в НБА, поддерживал игру Симмонса за национальную сборную.
«Думаю, для него это было бы здорово, — сказала Деллаведова. «Очевидно, что он обладает уникальными размерами, атлетизмом, видением, способностями к пасу и добавит группе новое измерение. Надеюсь, он сможет поправиться и стать ее частью».
Австралийский баскетбольный блогер Майкл Хоубен из The Pick and Roll, также вышел на этой неделе с анализом того, как Симмонс может помочь бумерам… вместе с некоторым скептицизмом.
Из-за нехватки пространства на полу и общего количества ударов с периметра масштабируемость игры Симмонса всегда представляла проблемы, если бы он не управлял мячом на львиной доле владений.
Не пиковому Симмонсу, несомненно, пришлось бы пойти на такие уступки в австралийском составе. Между Бумерсом Пэтти, одним из самых динамичных защитников в международной игре, и появлением других хэндлеров, в частности Джоша Гидди, какую ценность потенциально может принести Симмонс в более вспомогательной роли?Некоторые опасения Хоубена также связаны с возвращением Симмонса в Бруклин.
Все это зависит от того, получит ли Симмонс чистую справку о своем здоровье по поводу защемления нерва до 1 августа. Нет никаких официальных сообщений от Нетс с тех пор, как Брайан Льюис разговаривал со своим агентом две недели назад.
«Бен получил разрешение на переход к следующему этапу реабилитации, и он продвигается очень хорошо», — сказал Берни Ли The Post. «И мы по-прежнему очень рады его способности вернуться в форму в следующем году».
Льюис также сообщил, что Симмонсу не понадобится вторая операция на спине, как опасались.
Успешное выступление на чемпионате мира может оказаться изнурительным./GettyImages-598308041-5707ef713df78c7d9ea4f5ee.jpg)
Тренировочный лагерь проходит с 1 по 10 августа, затем австралийцы примут участие в выставочном турнире с четырьмя командами с 14 по 17 августа, где сразятся с Бразилией, Венесуэлой и Южным Суданом. Затем, после поездки в Японию, они откроют кубок 25 августа на японском острове Окинава. Финальный заезд будет состоять из девяти игр, которые завершатся игрой чемпионата Кубка 10 сентября. Обычно команды НБА начинают собираться на тренировочных базах на следующий день после Дня труда, который в этом году приходится на 4 сентября. И Шон Маркс сказал, что он надеется, что Симмонс будет готов к тому, чтобы двигаться на полной скорости.
Симмонс сообщил австралийским СМИ, что, хотя он хочет сыграть на чемпионате мира, его здоровье остается его приоритетом. И если чемпионат мира не сработает, Гурджиан считает, что у Симмонса могут быть другие возможности.
«Меня очень устраивает то, что было представлено — и это значит, что он будет там — но если нет, надеюсь, впереди Олимпиада», — сказал он об Олимпийских играх 2024 года в Париже.
Картинки, фотографии, изображения и фотографии с тренировок для Facebook, Tumblr, Pinterest и Twitter
Сортировать по:- Размер
маленький середина большой
- просмотров
ежедневно вчера еженедельно ежемесячно все время Самые закрепленные Больше всего лайков в ФБ
Майк-Росс
Майк-Росс
Майк-Росс
Майк-Росс
Майк-Росс
тимбосс
маргаритка
тимбосс
ФоксЗдесь
маргаритка
FreeThinker71
FreeThinker71
ДжеймиФлауэр
РонниСтил
РонниСтил
РонниСтил
РонниСтил
РонниСтил
РонниСтил
РонниСтил
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
ШонМакс
ШонМакс
ШонМакс
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Мечтатель
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
Принцесса-Ребекка-
ДжейдСаксворт
ДжейдСаксворт
ДжейдСаксворт
ДжейдСаксворт
ДжейдСаксворт
ДжейдСаксворт
Старый Страница из 11
LoveThisPic — это место, где люди могут делиться фотографиями тренировок, изображениями и многими другими типами фотографий.
Наше преданное сообщество пользователей отправило фотографий тренировок , которые вы сейчас просматриваете.
Смотрите Тренировочное фото , которое вам нравится? Вы можете повторно поделиться изображениями тренировки на
любой из ваших любимых сайтов социальных сетей, таких как Facebook, Pinterest, Tumblr, Twitter или даже
ваш личный сайт или блог. Хотите сохранить все ваши любимые фотографии тренировки, а также другие фотографии и
изображения на LoveThisPic? Пожалуйста, создайте учетную запись с нами и нажмите кнопку «Love It». Это позволит сохранить Workout картинку в свой аккаунт для быстрого доступа к ней в будущем. Мы надеемся, что вам понравится это
Изображение тренировки Pinterest / Facebook / Tumblr, и мы надеемся, что вы поделитесь им со своими друзьями. Входящие поисковые запросы: Фотографии тренировок, Фотографии тренировок Pinterest, Изображения тренировок Facebook,
Фотографии тренировок для Tumblr.
