bobo0810/PytorchNetHub

项目注释+论文复现+算法竞赛+Pytorch实践+LeetCode+VLM预训练

Jupyter Notebook

715

205 commits

updated May 12, 2025

See the code

README

linus

目的

  • 论文复现

  • 算法竞赛

  • 源码注释

    paper得来终觉浅,绝知此事要coding。

工作

LearnLeetCode⭐️⭐️⭐️

八股基础:Transformer知识、位置编码等

手撕代码:梯度下降、SelfAttention、MultiHeadAttention等

刷题方法论:统一解题模板,简单清晰

轻量级图像识别框架ClassificationGithub stars

支持任务: 1. 图像分类 2. 度量学习/特征对比

轻量级、模块化、高扩展、分布式、自动剪枝

Pytorch最小实践Github stars

自动混合精度AMP

分布式数据并行DDP

NCNN/MNN部署

TensorRT部署

视觉任务

目标检测:Faster rcnn、YOLO v1、YOLO v3、YOLO v4、SSD、CAM、S4ND

语义分割:U-Net

主干网络:FPN、SKNet、HS-ResNet、AFF-ResNet(并入官方库)、TargetDrop

激活函数:FunnelAct、DynamicReLU

知识蒸馏:RepDistiller

人脸相关

人脸检测:Yolov5-Face 主要贡献者

人脸比对

​ 分类器:AMSoftmax|ArcFace|Circle-Loss|DiscFace|NPCFace

​ 训练策略:Semi-Siamese-Training|BroadFace

算法竞赛

雪浪制造AI挑战赛 排名: 32/2403

"计图"人工智能算法挑战赛-狗细分类 排名: 4/430

ACCV2022国际细粒度图像分析挑战赛-网络监督的细粒度识别 排名: 8/133

时间线

2025

自研备注更新
LearnLeetCode八股基础+手撕代码+刷题方法论⭐️⭐️⭐️2025.1
MLLM-anything关于MLLM的训练、评测、最新进展
最新进展
1. Omni最新进展
2. VLM最新进展
训练
1. Megatron大规模训练框架
2. Energon大规模数据加载库
评测
1. OpenCompass文本评测库
2. VLMEvalKit多模评测库
3. UltraEval-Audio音频评测库
2025.3

2024

自研备注更新
多模态大模型专栏多模态VL系列之高质量数据(一)
多模态VL系列之模型架构(二)
多模态VL系列之训练策略(三)
2024.4
24卡+公开数据+4B 可以有多强?勇闯OpenCompass榜单2024.8

2023

自研备注更新
LearnColossalAIColossalAI教程 & 示例注释 & 学习笔记 (大模型高效训练)2023.3
OpenMMOpenMM系列最佳食用手册2023.3
LearnDeepSpeedGithub starsDeepSpeed教程 & 示例注释 & 学习笔记 (大模型高效训练)2023.8
MiniGPT-4-DeepSpeedMiniGPT-4基于DeepSpeed加速➕ 扩充模型规模 ➕ 实验分析2023.9

2022

官方库更新
RepVGG(CVPR 2021)VGG再次伟大 解读+代码2022.7
G-Ghost(IJCV 2022)探索各级别的特征冗余 解读+代码2022.7
BBN(CVPR2020)双边分支网络,以解决长尾分布问题 解读+代码2022.11
Vision Transformer(ICLR 2021)Transformer首次应用到视觉领域 解读+代码2022.12
MAE(CVPR2021)自监督学习 解读+代码2022.12
自研备注更新
bobotoolsGithub stars工具库(已废弃,用GPT更顺手)2022.2
ClassificationGithub stars图像识别框架2022.2
Pytorch最小实践Github starsPytorch最小实践2022.6
BossVision简单、模块化、高扩展的分布式训练框架2022.7
CUDA-PythonNvidia CUDA加速计算基础课程2022.9
DataHub公开数据集汇总2022.11

2021

官方库项目注释备注更新
SST(ECCV 2020)注释浅层人脸学习2021.2
RepDistiller注释知识蒸馏算法合集2021.2
自研备注更新
JittorDogsClassGithub stars“计图”算法挑战赛-狗细分类 4/4302021.4
Yolov5-FaceGithub stars人脸检测-支持纯TensorRT加速,成为主要贡献者2021.12

2020

官方库项目注释备注更新
DynamicReLU(ECCV 2020)注释动态激活函数2020.9
AMSoftmax注释乘法角间隔2020.9
ArcFace(CVPR 2019)注释加法角间隔2020.9
CircleLoss(CVPR 2020)注释加权角间隔2020.9
自研备注更新
FunnelRelu(ECCV 2020)Github stars新型激活函数-复现2020.7
AMP Github stars自动混合精度-示例2020.10
BroadFace(ECCV 2020)Github stars人脸对比队列更新策略-复现2020.10
TargetDropGithub stars注意力机制Dropout-复现2020.10
HS-ResNetGithub starsResNet改进版-复现2020.11
AFF-ResNet(WACV 2021)Github stars特征融合的统一方式- 复现,并入官方库2020.11
DDP Github stars分布式数据并行-示例2020.11
DiscFace(ACCV 2020)Github stars最小差异学习-复现2020.12
NPCFaceGithub stars正负联合监督-复现2020.12

2017-2019

官方库项目注释备注
Fatser Rcnn(NIPS 2015)注释目标检测
YOLO v1(CVPR 2016)注释目标检测
YOLO v3(ECCV 2016)注释 重构目标检测
YOLO v4注释目标检测
SSD注释 重构目标检测
CAM(CVPR 2016)注释特征可视化
U-Net(MICCAI 2015)注释医学影像语义分割
FPN(CVPR 2017)注释特征金字塔
自研备注
XueLangTianchiGithub stars雪浪制造AI挑战赛—视觉计算辅助良品检测 -32/2403
S4ND Github stars单次单尺度肺结节检测(MICCAI 2018)复现
3D SKconv Github stars注意力机制SE模块、SK模块的3D实现

注:猫狗分类、风格迁移、生成对抗等更多内容请访问pytorch-book

Star History Chart

broadface
cam
discface
dynamicrelu
faster-rcnn
ghostnet
hs-resnet
leetcode
npcface
pytorch
repvgg
s4nd
ssd
sst
targetdrop
unet
yolov3
yolov4

Contributors

bobo0810

205 commits

bobo0810/PytorchNetHub

项目注释+论文复现+算法竞赛+Pytorch实践+LeetCode+VLM预训练

Jupyter Notebook

715

205 commits

updated May 12, 2025

See the code

README

linus

目的

  • 论文复现

  • 算法竞赛

  • 源码注释

    paper得来终觉浅,绝知此事要coding。

工作

LearnLeetCode⭐️⭐️⭐️

八股基础:Transformer知识、位置编码等

手撕代码:梯度下降、SelfAttention、MultiHeadAttention等

刷题方法论:统一解题模板,简单清晰

轻量级图像识别框架ClassificationGithub stars

支持任务: 1. 图像分类 2. 度量学习/特征对比

轻量级、模块化、高扩展、分布式、自动剪枝

Pytorch最小实践Github stars

自动混合精度AMP

分布式数据并行DDP

NCNN/MNN部署

TensorRT部署

视觉任务

目标检测:Faster rcnn、YOLO v1、YOLO v3、YOLO v4、SSD、CAM、S4ND

语义分割:U-Net

主干网络:FPN、SKNet、HS-ResNet、AFF-ResNet(并入官方库)、TargetDrop

激活函数:FunnelAct、DynamicReLU

知识蒸馏:RepDistiller

人脸相关

人脸检测:Yolov5-Face 主要贡献者

人脸比对

​ 分类器:AMSoftmax|ArcFace|Circle-Loss|DiscFace|NPCFace

​ 训练策略:Semi-Siamese-Training|BroadFace

算法竞赛

雪浪制造AI挑战赛 排名: 32/2403

"计图"人工智能算法挑战赛-狗细分类 排名: 4/430

ACCV2022国际细粒度图像分析挑战赛-网络监督的细粒度识别 排名: 8/133

时间线

2025

自研备注更新
LearnLeetCode八股基础+手撕代码+刷题方法论⭐️⭐️⭐️2025.1
MLLM-anything关于MLLM的训练、评测、最新进展
最新进展
1. Omni最新进展
2. VLM最新进展
训练
1. Megatron大规模训练框架
2. Energon大规模数据加载库
评测
1. OpenCompass文本评测库
2. VLMEvalKit多模评测库
3. UltraEval-Audio音频评测库
2025.3

2024

自研备注更新
多模态大模型专栏多模态VL系列之高质量数据(一)
多模态VL系列之模型架构(二)
多模态VL系列之训练策略(三)
2024.4
24卡+公开数据+4B 可以有多强?勇闯OpenCompass榜单2024.8

2023

自研备注更新
LearnColossalAIColossalAI教程 & 示例注释 & 学习笔记 (大模型高效训练)2023.3
OpenMMOpenMM系列最佳食用手册2023.3
LearnDeepSpeedGithub starsDeepSpeed教程 & 示例注释 & 学习笔记 (大模型高效训练)2023.8
MiniGPT-4-DeepSpeedMiniGPT-4基于DeepSpeed加速➕ 扩充模型规模 ➕ 实验分析2023.9

2022

官方库更新
RepVGG(CVPR 2021)VGG再次伟大 解读+代码2022.7
G-Ghost(IJCV 2022)探索各级别的特征冗余 解读+代码2022.7
BBN(CVPR2020)双边分支网络,以解决长尾分布问题 解读+代码2022.11
Vision Transformer(ICLR 2021)Transformer首次应用到视觉领域 解读+代码2022.12
MAE(CVPR2021)自监督学习 解读+代码2022.12
自研备注更新
bobotoolsGithub stars工具库(已废弃,用GPT更顺手)2022.2
ClassificationGithub stars图像识别框架2022.2
Pytorch最小实践Github starsPytorch最小实践2022.6
BossVision简单、模块化、高扩展的分布式训练框架2022.7
CUDA-PythonNvidia CUDA加速计算基础课程2022.9
DataHub公开数据集汇总2022.11

2021

官方库项目注释备注更新
SST(ECCV 2020)注释浅层人脸学习2021.2
RepDistiller注释知识蒸馏算法合集2021.2
自研备注更新
JittorDogsClassGithub stars“计图”算法挑战赛-狗细分类 4/4302021.4
Yolov5-FaceGithub stars人脸检测-支持纯TensorRT加速,成为主要贡献者2021.12

2020

官方库项目注释备注更新
DynamicReLU(ECCV 2020)注释动态激活函数2020.9
AMSoftmax注释乘法角间隔2020.9
ArcFace(CVPR 2019)注释加法角间隔2020.9
CircleLoss(CVPR 2020)注释加权角间隔2020.9
自研备注更新
FunnelRelu(ECCV 2020)Github stars新型激活函数-复现2020.7
AMP Github stars自动混合精度-示例2020.10
BroadFace(ECCV 2020)Github stars人脸对比队列更新策略-复现2020.10
TargetDropGithub stars注意力机制Dropout-复现2020.10
HS-ResNetGithub starsResNet改进版-复现2020.11
AFF-ResNet(WACV 2021)Github stars特征融合的统一方式- 复现,并入官方库2020.11
DDP Github stars分布式数据并行-示例2020.11
DiscFace(ACCV 2020)Github stars最小差异学习-复现2020.12
NPCFaceGithub stars正负联合监督-复现2020.12

2017-2019

官方库项目注释备注
Fatser Rcnn(NIPS 2015)注释目标检测
YOLO v1(CVPR 2016)注释目标检测
YOLO v3(ECCV 2016)注释 重构目标检测
YOLO v4注释目标检测
SSD注释 重构目标检测
CAM(CVPR 2016)注释特征可视化
U-Net(MICCAI 2015)注释医学影像语义分割
FPN(CVPR 2017)注释特征金字塔
自研备注
XueLangTianchiGithub stars雪浪制造AI挑战赛—视觉计算辅助良品检测 -32/2403
S4ND Github stars单次单尺度肺结节检测(MICCAI 2018)复现
3D SKconv Github stars注意力机制SE模块、SK模块的3D实现

注:猫狗分类、风格迁移、生成对抗等更多内容请访问pytorch-book

Star History Chart

broadface
cam
discface
dynamicrelu
faster-rcnn
ghostnet
hs-resnet
leetcode
npcface
pytorch
repvgg
s4nd
ssd
sst
targetdrop
unet
yolov3
yolov4

Contributors

bobo0810

205 commits

Languages

Jupyter Notebook

79.2%

Python

20.7%