れあどめ作成中
依存関係はuvで管理している。設定はHydraによるcomposition方式(conf/参照)。
uv sync # 環境構築
uv run python main.py experiment=example # 実験configで学習
uv run python main.py model=sdxl trainer.lr=1e-4 # CLIオーバーライド
uv run python main.py -m trainer.lr=1e-4,1e-5 # multirunでスイープ
conf/config.yaml: 共通デフォルトconf/{model,trainer,dataset,network}/: 部品グループconf/experiment/*.yaml: 実験ごとの差分(gitignore対象、example.yamlが見本)outputs/<日付>/<時刻>/.hydra/ に自動保存されるデータセットの前処理は preprocess パッケージに統一されている(--helpで各引数を確認)。
uv run python -m preprocess buckets -i raw_images -o dataset # bucketへ振り分け+buckets.json
uv run python -m preprocess tags -d dataset -o dataset/captions # WD Taggerでタグ付け
uv run python -m preprocess latents -d dataset -o dataset/latents -m <model> -t sdxl
uv run python -m preprocess text -d dataset/captions -o dataset/text_emb -m <model> -t sdxl
uv run python -m preprocess masks -d dataset -o dataset/mask # 顔マスク(要lbpcascade_animeface.xml)
各処理はライブラリ関数(進捗コールバック対応)としても呼び出せる。旧単発スクリプトのうち
現役でないもの(PFG関連・旧tagger等)は preprocess/legacy/ にある。
https://github.com/harubaru/waifu-diffusion
349 commits
Python
100.0%
れあどめ作成中
依存関係はuvで管理している。設定はHydraによるcomposition方式(conf/参照)。
uv sync # 環境構築
uv run python main.py experiment=example # 実験configで学習
uv run python main.py model=sdxl trainer.lr=1e-4 # CLIオーバーライド
uv run python main.py -m trainer.lr=1e-4,1e-5 # multirunでスイープ
conf/config.yaml: 共通デフォルトconf/{model,trainer,dataset,network}/: 部品グループconf/experiment/*.yaml: 実験ごとの差分(gitignore対象、example.yamlが見本)outputs/<日付>/<時刻>/.hydra/ に自動保存されるデータセットの前処理は preprocess パッケージに統一されている(--helpで各引数を確認)。
uv run python -m preprocess buckets -i raw_images -o dataset # bucketへ振り分け+buckets.json
uv run python -m preprocess tags -d dataset -o dataset/captions # WD Taggerでタグ付け
uv run python -m preprocess latents -d dataset -o dataset/latents -m <model> -t sdxl
uv run python -m preprocess text -d dataset/captions -o dataset/text_emb -m <model> -t sdxl
uv run python -m preprocess masks -d dataset -o dataset/mask # 顔マスク(要lbpcascade_animeface.xml)
各処理はライブラリ関数(進捗コールバック対応)としても呼び出せる。旧単発スクリプトのうち
現役でないもの(PFG関連・旧tagger等)は preprocess/legacy/ にある。
https://github.com/harubaru/waifu-diffusion
349 commits
Python
100.0%