Chinese-Vicuna/Chinese-Vicuna-7b-legal-lora

Model

stars

commits

linked in READMEs

May 17, 2023

updated

legal

README

> pretrained: Llama7B
> instruction & conversation finetuned:  Chinese-Vicuna-chatv1 (Lora)
> domain finetuned:  Lora

这是Chinese-Vicuna在legal领域上微调后的lora模型，可直接配合Llama7B使用

legal的数据我们使用 Chatgpt关于JEC-QA中国法考数据集的解答、 ChatGPT扮演律师解答问题、法律知识问答三种来源的数据，总计23209条。尽管我们能够找到一些法律真实问答的数据，但此类数据往往带噪（比如不耐烦地回答“问问你自己吧”），因此并没有使用

我们按chat格式格式化数据，基于chatv1，使用continue-training 继续训练将近6 epoch；经测试不仅提高了法律问答能力，还能够保留一定的通用问答能力。

5 commits

1 commits

pengxiao-song/LaWGPT

🎉 Repo for LaWGPT, Chinese-Llama tuned with Chinese Legal knowledge. 基于中文法律知识的大语言模型

6,059

Chinese-Vicuna/Chinese-Vicuna-lora-7b-chatv1

Chinese-Vicuna/Chinese-Vicuna-continue-finetune-7epoch-cMedQA2

Chinese-Vicuna/Chinese-Vicuna-lora-7b-belle-and-guanaco-4bit-11600

Facico/Chinese-Vicuna-lora-7b-3epoch-belle-and-guanaco

Linly-AI/Chinese-LLaMA-7B

Chinese-Vicuna/Chinese-Vicuna-lora-7b-belle-and-guanaco

Chinese-Vicuna/Chinese-Vicuna-lora-7b-belle-and-guanaco-4bit

Facico/Chinese-Vicuna

Chinese-Vicuna: A Chinese Instruction-following LLaMA-based Model —— 一个中文低资源的llama+lora方案，结构参考alpaca

4,110

thunlp/CAIL

Chinese AI & Law Challenge

514

README

> pretrained: Llama7B
> instruction & conversation finetuned:  Chinese-Vicuna-chatv1 (Lora)
> domain finetuned:  Lora

这是Chinese-Vicuna在legal领域上微调后的lora模型，可直接配合Llama7B使用

我们按chat格式格式化数据，基于chatv1，使用continue-training 继续训练将近6 epoch；经测试不仅提高了法律问答能力，还能够保留一定的通用问答能力。