Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

[WeeklyReports] 2024.08.26~2024.09.08 周报汇总 #373

Open
11 of 21 tasks
yinfan98 opened this issue Sep 14, 2024 · 12 comments
Open
11 of 21 tasks

[WeeklyReports] 2024.08.26~2024.09.08 周报汇总 #373

yinfan98 opened this issue Sep 14, 2024 · 12 comments

Comments

@yinfan98
Copy link
Collaborator

yinfan98 commented Sep 14, 2024 •
edited by sunzhongkai588
Loading

[WeeklyReports] 2024.08.26~2024.09.08 周报汇总

请各位学员在本 issue 下以 comment 的形式填写周报摘要，ddl 本周日晚，格式示例如下：

### 姓名

xxx

### 本周工作

1. xxx
2. xxx
 
### 下周工作

1. xxx
2. xxx

### 详细周报链接：

- https://github.com/PFCCLab/Camp/pull/xxx

护航计划

项目一：PIR 专项

项目四：组合机制建设

项目五：框架API易用性提升

项目八：PaddleDetection 套件能力建设

项目十：推理Predictor 及 IR Pass建设

项目十一：模型迁移工具建设

开源之夏

项目一：飞桨PaddlePaddle-PIR适配2ONNX推理转换

项目二：飞桨PaddlePaddle-动转静支持子图高阶微分

项目三：飞桨PaddlePaddle-PIR适配VisualDL模型可视化

GLCC

项目一：为Paddle推理新增Pass管理功能

项目二：为开源大语言模型推理增加优化Pass

项目三：飞桨Save/Load体系功能升级适配PIR

项目五：飞桨稀疏算子API升级适配PIR

项目六：动静统一自动并行支持 MoE 专家并行策略
@NKNaN
Copy link
Contributor

NKNaN commented Sep 15, 2024

姓名

李睿文

本周工作

  1. 完成核对已修改的 58 个 API
  2. 修复 paddle.diff 存在的 bug
  3. 增强 paddle.optimizer.SGD/Adadelta/Adagrad/RMSprop 等优化器的功能
  4. 修复 paddle.linalg.matrix_rank 新增 kernel 存在的 bug
  5. 增强 F.max_unpool1d/F.max_unpool2d/F.max_unpool3d 输入 indices 的类型
  6. 修复 F.batch_norm 存在的 bug
  7. 增强 F.pad 的 data_format 参数

下周工作

  1. 完善未合入的 pr 以及对应的映射文档、matcher、json 映射法则以及 PaConvert 中的单测
  2. 分析 paddle.nonzero 修改的不兼容升级问题
  3. paddle.load 增强输入类型
  4. paddle.chunk 支持非整除情况

详细周报链接：

@lszxb
Copy link
Contributor

lszxb commented Sep 15, 2024

姓名

刘斯哲

本周工作

  1. 对目前demo中的静态图推理过程进行profile并进行优化

  2. 了解Attention显存管理的相关工作，并尝试进行实现

  3. 阅读QServe系统的代码，了解其具体实现

下周工作

  1. 继续完善新实现的自定义算子，为新的自定义算子编写优化pass，使其能够自动覆盖PaddleNLP的大部分模型

详细周报链接：

@Xuxuanang
Copy link
Contributor

姓名

许轩昂

本周工作

1.完成对torch.optim.lr_scheduler.OneCycleLR,torch.prod等约20个单测的case增强,并提交了PR。且已经成功合入主分支。

  1. 添加相关映射规则，新增单测，转换规则约20个。
  1. 添加torch.cuda.is_bf16_supported，torch.distributions.Binomial等api的映射文档，已经全部完成所有映射文档缺失的检查。

下周工作

  1. 继续完成文档不对齐以及bug修复等相关工作

详细周报链接：

@fxfxfxfxfxfxfxfx
Copy link
Contributor

姓名

冯潇

本周工作

  1. 阅读论文 GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding，深入了解moe并行的实现
  2. 阅读deepspeed关于moe的代码

下周工作

  1. 将qwen2moe SparseMoEBlock改成自动并行版本，尽量少改动原本的代码，最大化利用自动并行相关api的功能。

详细周报链接

#354

@zeroRains
Copy link
Contributor

姓名

卢林军

实习项目

组合机制建设和机制推全

本周工作

  1. 为dropout_grad op 添加动态shape支持

相关 PR：

  1. 为prod_grad op 添加动态shape支持

相关 PR：

  1. 为cumprod_grad 支持动态shape

相关 PR：

  1. 为gather_grad, gather_nd_grad 支持动态shape

相关 PR：

  1. 为scatter_grad 添加动态shape支持，添加scatter_nd_add_grad的动态shape单测，为所有反向动态shape测试添加拆解检测

相关 PR：

  1. 为topk_grad添加动态shape支持

相关 PR：

  1. 为unsqueeze_grad, squeeze_grad 添加动态shape单测

相关 PR：

下周工作

  1. group_norm_grad, layer_norm_grad, masked_select_grad, roll_grad反向适配动态shape
  2. one_hot, batch_norm_, batch_norm, bmm 前向适配动态shape

详细周报链接：

@aooxin
Copy link
Contributor

aooxin commented Sep 16, 2024

姓名
马奥欣

实习项目

推理Predictor 及 IR Pass建设

本周工作

  1. 对周中拿到的测试报告中提到的问题进行定位已经修改
  • 修改msvsr、rec_r32_gaspin_bilstm_att、rec_svtrnet的问题
  • 对测试报告中提出的其他问题进行复测，解决CSE pass 和 AMP pass 的冲突问题
  1. 提交测试PR：
  1. 提交注册CSE pass PR：

下周工作

继续跟进PIR分布式单测修复工作

详细周报连接

@Layssy
Copy link
Contributor

Layssy commented Sep 18, 2024

姓名

李伟

实习项目

推理Predictor 及 IR Pass建设

本周工作

paddle架构相关学习

  1. 熟悉了Paddle-Inference-Demo python层面的运用
  2. 学习了 paddle 算子层面的转换

算子的 Marker、converter 的开发 和单测的实现

  1. 完成了 divide、multiply、substract的converter的开发和单测实现
  2. 完成了max的marker和converter的开发和单测的测试
  3. 排查了pd_op.bilinear_interp在旧ir下为什么没有进入tensorrt
  4. 提交了split算子在进行converter的时候出现的bug

下周工作

  1. 继续完成分配算子的converter的实现
  2. 重新全部理解一下converter.py全部的实现

详细周报链接

#361（上次没有合入的）
#378

@gouzil
Copy link
Contributor

gouzil commented Sep 22, 2024

姓名

gouzil

本周工作

  1. 修复动转静下解析 x.to(device=y.place) device 参数异常的问题
  2. 修复 https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/paddle_v3_features/sot_cn.html#id2 示例代码报错不一样的问题
  3. 了解动转静体验优化现阶段已有的任务，对部分场景报错进行优化

下周工作

  1. 继续进行部分动转静体验优化任务

详细周报链接：

@Hanyonggong
Copy link
Contributor

Hanyonggong commented Sep 22, 2024 •
edited
Loading

姓名

韩用功

实习项目

推理Predictor 及 IR Pass建设

本周工作

1、调研deepseekv2大模型的结构

2、修复tune_cublaslt_gemm 算子bug

3、补充相关api文档

详细周报链接

#380

@cse0001
Copy link
Contributor

cse0001 commented Sep 25, 2024

姓名

谢一帆

实习项目

飞桨 PaddlePaddle-PIR 适配 VisualDL 模型可视化

本周工作

  1. 继续完善 visualdl 算子可视化功能

  2. 编写功能文档

  3. 编写测试用例

详细周报链接

@eggman-1024
Copy link
Contributor

eggman-1024 commented Sep 27, 2024 •
edited
Loading

姓名

张瑞涛

实习项目

飞桨Save/Load体系功能升级适配PIR

本周工作

  1. 调试PIR体系下Load代码以支持jit_layer 单测运行通过

    • 修改并调试相关代码文件；已完成该任务

详细周报链接

@zrr1999
Copy link
Contributor

zrr1999 commented Sep 30, 2024 •
edited
Loading

姓名

詹荣瑞

实习项目

PIR 专项

本周工作

  1. 完善参数包含 SymbolicVariable 时的 dispatch 机制，SymbolicVariable 不存在对应的 handler 时，fallback 到 ConstantVariable 的 handler

下周工作

  1. 继续推进 SOT 动态 shape

详细周报链接

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests