taishan1994/MiniLlava

动手训练一个简单的Llava模型。

Python

12

3 commits

updated Apr 23, 2025

See the code

README

MiniLlava

动手训练一个简单的Llava模型。加深对llava的理解。

准备环境:

  • 需要下载三个预训练的权重到model_hub下:TinyLLaVA-Qwen2-0.5B-SigLIP、Qwen/Qwen2-0.5B、google/siglip-so400m-patch14-384 。TinyLLaVA-Qwen2-0.5B-SigLIP可以去tinyllava_factory下载,另外两个可以去hugging face上下载。

  • 数据下载到data下并解压:链接: https://pan.baidu.com/s/1DISLgni8cRY6ZY5hp3QV7Q?pwd=uaa3 提取码: uaa3

  • 安装依赖:pip install -r requirements.txt

其余训练和测试参考微信文章:https://mp.weixin.qq.com/s/LwDkIGC61M7BIqUDgNVg9A

taishan1994/MiniLlava

动手训练一个简单的Llava模型。

Python

12

3 commits

updated Apr 23, 2025

See the code

README

MiniLlava

动手训练一个简单的Llava模型。加深对llava的理解。

准备环境:

  • 需要下载三个预训练的权重到model_hub下:TinyLLaVA-Qwen2-0.5B-SigLIP、Qwen/Qwen2-0.5B、google/siglip-so400m-patch14-384 。TinyLLaVA-Qwen2-0.5B-SigLIP可以去tinyllava_factory下载,另外两个可以去hugging face上下载。

  • 数据下载到data下并解压:链接: https://pan.baidu.com/s/1DISLgni8cRY6ZY5hp3QV7Q?pwd=uaa3 提取码: uaa3

  • 安装依赖:pip install -r requirements.txt

其余训练和测试参考微信文章:https://mp.weixin.qq.com/s/LwDkIGC61M7BIqUDgNVg9A