ChatGPT っぽい UI で LINE の LLM モデルとお話できるやつ
( line-corporation/japanese-large-lm-3.6b-instruction-sft )
requirements.txt をお好みの環境で。
conda create -n linellm python=3.10
conda activate linellm
pip install -r requirements.txt
初回はモデルのダウンロード&量子化に時間がかかります
python main.py
# open http://127.0.0.1:8000/
ChatGPT っぽい UI で LINE の LLM モデルとお話できるやつ
( line-corporation/japanese-large-lm-3.6b-instruction-sft )
requirements.txt をお好みの環境で。
conda create -n linellm python=3.10
conda activate linellm
pip install -r requirements.txt
初回はモデルのダウンロード&量子化に時間がかかります
python main.py
# open http://127.0.0.1:8000/