本仓库项目是个人总结的计算机视觉和大语言模型学习笔记,包含深度学习基础知识、神经网络基础部件详解、深度学习炼丹策略、深度学习模型压缩算法、
深度学习推理框架代码解析及动手实战,以及 LLM 基础及推理优化的专栏笔记。
1,神经网络基础部件:
2,深度学习基础:
1,模型部署:
2,模型推理:
3,ncnn 框架源码解析:
- ncnn 源码解析-sample 运行
- ncnn 源码解析-Net 类
- ncnn 源码解析-Layer 层
- [ncnn 源码解析-常见算子]
5,AI/NPU/GPU 芯片特性:
- 移动端异构计算:
neon编程 - GPU 端异构计算:
cuda编程
通用矩阵乘法 gemm 算法解析与优化、neon、cuda 编程等内容,以及 ncnn 框架代码解析总结。
1,LLM 基础知识:
2,Transformer 模型基础:
3,大规模模型的推理优化及部署总结:
4,DeepSpeed 框架学习笔记:
- DeepSpeed:通过系统优化和压缩加速大规模模型推理和训练
- DeepSpeed推理:具有定制推理内核和量化支持的多GPU推理
- DeepSpeed:模型压缩模块详解
- [DeepSpeed:模型profilling]
- 《深度学习》
- 《机器学习》
- 《动手学深度学习》
- 《PyTorch_tutorial_v1.0_余霆嵩》
- 《动手编写深度学习推理框架 Planer》
- distill:知识精要和在线可视化
- LLVM IR入门指南
- nanoPyC