neofung/LLM-Toolkits

LLM 模型训练工具箱, 包括增量预训练、有监督微调和DPO。

stars

commits

Python

primary language

Feb 7, 2024

updated

README

LLM 模型训练工具箱, 包括增量预训练、有监督微调和DPO。

source ./conda_environment.torch_2.0.1.sh

MedicalGPT 大部分代码是基于 MedicalGPT 二次开发的。

26 commits

shibing624/MedicalGPT

MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline.…

5,794

Tongjilibo/build_MiniLLM_from_scratch

从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)

558

zysNLP/quickllm

A repo for update and debug Mixtral-7x8B、MOE、ChatGLM3、LLaMa2、 BaChuan、Qwen an other LLM models…

DLLXW/baby-llama2-chinese

用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.

2,922

littlemesie/llm-learning

大模型学习

jingyaogong/minimind

🧠 Train a 64M-parameter LLM from scratch in just 2h!

60,519

howyoubinh/MedLLM

mosaicml/llm-foundry

LLM training code for Databricks foundation models

4,443

Python

98.1%

Shell

1.9%