万亿参数推荐模型预估架构演进之路-黎江.pdf

上传人： 2***

编号：127454

2023-05-01

PDF 20页 68.07MB

《万亿参数推荐模型预估架构演进之路-黎江.pdf》由会员分享，可在线阅读，更多相关《万亿参数推荐模型预估架构演进之路-黎江.pdf（20页珍藏版）》请在三个皮匠报告上搜索。

万亿参数推荐模型预估架构演进之路黎江百度主任架构师推荐系统简介万亿参数模型的技术挑战基于学习的深度学习预估架构进一步展望典型的推荐系统典型的推荐模型模型典型推荐分阶段实现数万输入参数万亿级稀疏参数矩阵稀疏查询累加典型的服务架构设计多个特性不同阶段间的高效串联和协同推荐模型预估的技术挑战高效的大规模稀疏参数查询应对大规模算力开销的合理剪枝体系多维度架构参数最优化设置子任务划分问题Staged Event-Driven Pipeline Staged Event-Driven Pipeline 流水线驱动框架设计难点：TPS=QPS*items*stageWait-Free Task QueueStaged Event-Driven Pipeline Counting BasedWait-Free DAG流水线驱动框架设计难点：TPS=QPS*items*stage运行中并发激活并发完成结算典型参数服务器架构异构稀疏参数部署多维度参数最优化离线参数自动寻优在线预估缓存和剪枝最佳剪枝水位预估值缓存重排序预估截断极智在线预估系统展望更好的Query Cache效果拟合更强的特征计算能力更快和更深入的参数寻优

万亿参数推荐模型预估架构演进之路-黎江.pdf

相关报告