Skip to content

Commit

Permalink
Update 【Hackathon 6th】飞桨护航计划集训营项目合集.md (#814)
Browse files Browse the repository at this point in the history
  • Loading branch information
sunzhongkai588 authored Feb 1, 2024
1 parent e13c7db commit 4e06e80
Showing 1 changed file with 17 additions and 0 deletions.
Original file line number Diff line number Diff line change
Expand Up @@ -473,3 +473,20 @@ AI 编译器主要聚焦于解决深度学习模型的部署和推理过程中
- 曾经参与过 SOT,并对 SOT 有贡献的优先
- 对动转静有理解的优先
- 熟悉 Python 虚拟机技术的优先

### 项目二十六:推理 Pass & 融合算子优化

#### 项目介绍:

PaddleInference 负责深度学习模型推理优化和部署,其中 Pass 优化&融合算子开发是推理优化的主要手段。当前框架侧已具有一定数量的优化 Pass & 融合算子,但相较业内主流竞品(TensorRT/AITemplate/Pytorch/OnnxRuntime 等)还具有一定差距,因此,该项目首先会对竞品做一个全面的调研,然后结合当前 Paddle 现状针对性的进行补全工作。目标是在优化 Pass & 融合算子数量持平或优于业内水平,从而提升全量模型的推理性能。主要工作如下所示:

1. 协助调研业内各竞品推理 Pass & 融合算子体系
2. 基于 PIR 完成相关 Pass 的开发
3. 完成相关融合算子 & kernel 的开发
4. 完成 Paddle 内 OneDNN 相关 Pass 的 PIR 迁移开发

#### 营员要求(1 人):

- 熟悉 C++
- 对深度学习框架实现原理、推理部署有一定了解
- 有过模型推理优化、算子开发经验者优先

0 comments on commit 4e06e80

Please sign in to comment.