2021年Flink Forward Asia峰会嘉宾演讲PPT合集(共79套打包)

2021年Flink Forward Asia峰会嘉宾演讲PPT合集(共79套打包)

更新时间:2022-10-09 报告数量:79份

报告合集目录

报告预览

  • 实时数仓专场
    • 袁尤军-SmartNews基于Flink的实时数仓建设.pdf
    • 汪李之-Flink在讯飞AI营销业务实时数仓实践.pdf
    • 康琪KangQi - 十荟团基于Flink SQL与Zeppelin构建实时数仓的实践 .pdf
    • 龙逸尘-腾讯云原生实时数仓建设实践 .pdf
    • 李天朔-快手实时数仓保障体系研发实践.pdf
    • 马年圣-蚂蚁实时数仓体系升级实践.pdf
    • 曲明星-HTAP 为实时数据服务插上翅膀.pdf
    • 胡晶明-理想汽车基于 Flink 的实时数据仓库 0-1 初步建设.pdf
    • 姚冬阳-美团实时数仓平台建设 2021 新进展.pdf
请点击导航文件预览
资源包简介:

1、王林红易车数据平台负责人FlinkFlink在易车落地应用与实践在易车落地应用与实践平台现状平台现状应用场景应用场景平台建设平台建设流批一体流批一体未来规划未来规划#1#2#3#4#5#1#1平台现状平台现状实时计算平台发展历程20182019202020211、storm、spark编码开发2、低监控、无平台3、开发效率低早期阶段1、Flink 1.7落地使用2、SQL开发模式3、支持日志实时。

2、中原银行实时风控体系建设实践陈玉强中原银行数据银行部Construction practice of real-time risk control system of Zhongyuan bank中原银行业务发展概况蝉联六年金融时报“年度十佳城市商业银行”,相继荣获“铁马十佳银行”、“最佳上市公司”、“年度卓越城商行”等称号2021年银行家全球1000大银行排185名2021年财富中国500强,。

3、吴江/蔚来大数据开发&Olap平台 Tech LeadFlink在蔚来的应用实时计算在蔚来的发展历程#1#1实时计算平台#2#2实时看板#3#3CDP#4#4实时数仓#5#5其他应用场景#6#6#1实时计算在蔚来的发展历程实时计算在蔚来的发展历程正在进行实时计算平台2.02021-01实时计算平台1.02019-09引入Flink命令行方式提交和管理2018-05Spark stream。

4、张迎/实时计算平台负责人作业帮基于作业帮基于FlinkFlink的实时计算平台实践的实时计算平台实践发展历程发展历程Flink SQL应用实践平台建设总结展望#1#1#2#2#3#3#4#4整体架构数据库业务侧日志KafkamysqlApp,web,后端业务侧CanalFuxi实时离线实时计算Flink离线计算SparkStreaming/MRStarRocksDorisHologresESHi。

5、冯斐/王非凡 美团数据平台工程师美团Flink大作业部署与状态稳定性优化实践相关背景#1大作业部署优化#2Checkpoint跨机房副本#3未来规划#5目录状态稳定性相关优化#42#1相关背景3美团Flink应用场景数据管道数据分析事件处理-数据实时入仓-跨数据源实时同步-实时数仓-实时特征生产-安全风控-系统监控告警4机器数美团Flink计算规模15K50K 5.4亿/秒 作业数5K高峰流量作。

6、刘桂海/架构师特来电云平台智能运维应用实践特来电云平台智能运维应用实践特来电云平台简介1234Flink在特来电云平台智能运维的未来计划特来电云平台智能运维简介Flink在特来电云平台智能运维的应用场景#1#1特来电云平台简介特来电云平台简介要加强新型基础设施建设(即新基建新基建),发展新一代信息网络,拓展5G应用,建设充电桩充电桩,推广新能源汽车,激发新消费需求、助力产业升级。-2020年政府。

7、张蛟/小米高级软件工程师Apache FlinkApache Flink在小米的在小米的稳定性优化和实践稳定性优化和实践Stability optimization and practice of Apache Flink at Xiaomi发展现状发展现状和规模和规模稳定性优化稳定性优化及实践及实践运维优化运维优化及实践及实践未来规划未来规划与展望与展望#1#2#3#4#1#1发展现状及规模发。

8、李劲松/阿里巴巴技术专家基于 Flink Dynamic Table 构建流批一体数仓业务痛点动态表流式数仓PLAN#2#3#4#5#1业务需求#1 1业务需求业务需求Streaming ETL搭建实时数仓搭建实时数仓Day ResultsWeek ResultsMonth ResultsJoinAggregationsODSDWDADS BOSS:快快快!给我看到实时的数据!即席查询与数据订正。

9、刘迪珊美团基于流批一体构建增量数仓生产实践The Production Practice of Building Incremental Data Warehouse based on Unified Architecture at Meituan项目目标核心设计与实现计算能力优化未来展望#1#2#3#4#1项目目标数仓生产面临的问题#1离线实时两套计算逻辑,口径难统一:离线实时数据生产,采用两。

10、高赟(云骞)面向流批一体的面向流批一体的FlinkFlink RuntimeRuntime新进展新进展The New Features of the Runtime for Unified Batch and Stream Processing流批一体流批一体性能优化性能优化RemoteRemoteShuffleShuffle总结与展望总结与展望#1#2#3#4#5语义完善语义完善与增强与增强#。

11、邹丹/刘洋字节跳动基础架构工程师Powering HTAP at Powering HTAP at ByteDanceByteDance withwithApache Apache FlinkFlinkFlinkFlink OLAPOLAP OptimizerOptimizer ImprovementImprovementFlinkFlink OLAPOLAP RuntimeRuntime Im。

12、演讲者:林东-阿里巴巴高级技术专家 Apache Kafka PMC高赟-阿里巴巴技术专家 Apache Flink Committer共同作者:张智鹏 阿里巴巴高级开发工程师为实时机器学习设计的算法接口与迭代引擎为实时机器学习设计的算法接口与迭代引擎流批一体的迭代引擎流批一体的迭代引擎FlinkFlink MLML 生态建设生态建设面向实时机器面向实时机器学习的学习的APIAPI#1#2#3#。

13、李明/字节跳动基础架构工程师StateBackendStateBackend PerformancePerformanceImprovements with CacheImprovements with Cache相关背景相关背景Background优化思路优化思路Ideas难点难点&方案方案Difficulties&Solutions业务收益业务收益Benefits未来规划未来。

14、孙梦瑶/美团开发工程师Flink 流式 Join 算子优化Optimizations on Flink Streaming Join OperatorsJoin 算子现有实现和问题#1Regular Join mini-batch 优化#2Interval Join 1 对 N 关联优化#3Join 算子优化的落地与实践#4#1Join 算子现有实现和问题为什么需要 Join 算子 事物之间存在。

15、杨旭/阿里巴巴资深算法专家AlinkAlink的新进展及典型示例的新进展及典型示例New progress and typical examples of Alink内容提纲概述新算法-深度学习组件-流式特征工程-时序算法组件新功能-推理组件加速-模型流-Web UIAlink教程(Java版,Python版)未来展望What is Alink Alink是基于Flink的机器学习算法平台Ali。

16、姜鑫&蒋晓峰基于基于AIFlowAIFlow的机器学习工作流最佳实践的机器学习工作流最佳实践实时机器学习实时机器学习AIFlowAIFlow 介绍介绍最佳实践最佳实践#2#3RoadmapRoadmap#4#1#1#1实时机器学习实时机器学习离线机器学习工作流离线机器学习工作流Feature StoreApplicationQueueArchived DataBatchFeature G。

17、Where will BigData technology go?under the trend of HTAPDongxu Huang,PingCAPAbout meAbout me Dongxu(Ed)Huang CTO,PingCAP Database/Distributed System Big fan of OSS,TiDB/TiKV/Codis When we talk about 。

18、章剑锋阿里云EMR数据开发负责人大数据三剑合一:大数据三剑合一:FlinkFlink+ZeppelinZeppelin+AirflowAirflowFlinkFlink onon ZeppelinZeppelin 现状现状#1#1Airflow Airflow 简介简介#2#2Zeppelin+Zeppelin+Airflow Airflow#3#3DemoDemo#4#4#1#1FlinkFl。

19、周煜敏戴尔科技集团高级软件工程师Pravega Flink connector Table API 进阶功能探秘Deep dive into the extended Table API usage of Pravega Flink connector动态表与流表二相性动态表与流表二相性#1#1Debezium支持支持#2#2Pravega Schema registry#3#3Catalog支。

20、蚂蚁金服实时计算引擎建设闵文俊/蚂蚁集团技术专家云化实践SQL算子与运行时优化未来展望#1#2#3#1云化实践云化实践 Native Kubernetes 部署 结合蚂蚁云原生组件,提供云原生的体验 通过operator组件,进行作业管理以及和内部组件交互轻量化运维145632更好的隔离性资源使用效率无盘化日志采集nydus镜像加速kata安全容器资源动态伸缩框架Vpa In-place upd。

21、赵荣生网易云音乐实时场景应用及优化实践简介分区流表动态分发其他工作未来规划#1#2#3#4#5#1简介集群规模3000/1000集群节点数任务数流量40000/1200300PB/20GBps业务场景大盘数仓推荐算法监控ABBI稳定性监控指标不完善Kafka流量压力增大HDFS小文件问题空跑任务浪费资源遇到问题效率大量重复无用读取并行度受限topic分区数TM IO overhead高数据倾斜计。

22、张杨/资深开发工程师FlinkFlink 在在B B站的多元化探索与实践站的多元化探索与实践平台建设平台建设增量化增量化AIAI On FlinkOn Flink#1#2#3#1#1平台建设平台建设平台建设基础功能完善基础功能完善lkafkakafka动态动态sinksinkl提交器优化提交器优化新任务构建模式新任务构建模式l算子化算子化智能诊断智能诊断l错误分析错误分析l自动调优自动调优top。

23、何军/小红书Native Native FlinkFlink on on KubernetesKubernetes在小红书的实践在小红书的实践多云部署架构多云部署架构#1支持业务场景支持业务场景#2HELMHELM集群管理集群管理#3Native Native FlinkFlink on K8son K8s实践实践#4流批一体作业管控平台流批一体作业管控平台#5未来展望未来展望#6#1#1多云部。

24、付海涛/资深技术专家FlinkFlink on K8s on K8s 在京东的持续优化实践在京东的持续优化实践The Practice and Optimization of Flink on K8s in JD 基本介绍基本介绍The IntroductionThe Introduction生产实践生产实践The Practice The Practice#1#2#3#4优化改进优化改进The。

25、林小铂 网易游戏资深开发工程师网易游戏 Flink SQL 平台化实践Flink SQL Platform Construction Practice in Netease Games网易游戏 Flink SQL 发展历程#1基于模板 jar 的 StreamflySQL#2基于 SQL Gateway 的 StreamflySQL v2#3未来工作#4#1网易游戏 Flink SQL 发展历程。

26、网易 马进ArcticArctic:基于:基于Flink+icebergFlink+iceberg 的湖仓一体的湖仓一体Arctic:Using flink and iceberg to build netease lakehouse背景与目标背景与目标#1Background and goalsArctic Arctic 特性特性#2Arctic featuresArctic Arctic 架。

27、李延加/Gary LiSoftware Engineer ByteDanceApache Hudi PMC MemberBuildingBuilding TheThe RealReal-timetime DatalakeDatalakeatat ByteDanceByteDanceByteDanceByteDance DataData IntegrationIntegration#1WhyWhy。

28、袁尤军SmartNews 基于 Flink 的实时数仓建设Flink 在 SmartNews:历史与现状#1实时数仓的发展背景和策略#2一个具体例子#3未来的规划和挑战#4Q&A#5#1Flink 在 SmartNews:历史与现状关于 SmartNews201220142019东京纽约/旧金山/帕托上海/北京Flink 在 SmartNews 的发展历史2020Q2实时平台立项Flin。

29、汪李之/大数据工程师Flink 在讯飞AI营销业务实时数仓实践业务简介数仓演进场景实践未来展望#1#2#3#4#1业务简介业务流程流量交易平台流量方广告主流量方在交易平台售卖流量广告主在交易平台购买流量,投放广告请求曝光点击投放平台业务场景业务日志业务分析用户日志到分析的过程数据呈现的时效性数据仓库实时数据仓库#2数仓演进数仓框架业务日志流(Log Stream)OLTP数据库第三方文档数据OD。

30、康琪/十荟团大数据工程师,Apache Flink Contributor 十荟团基于Flink SQL与Zeppelin构建实时数仓的实践Flink SQL&Zeppelin-Based Practices of Real-Time Data Warehouse at NiceTuan实时数仓建设Construction of Real-Time Data Warehouse#1数仓平。

31、袁一中国工商银行大数据平台负责人工商银行实时大数据平台建设历程及展望#1#1#2#2#3#3展望工行实时大数据平台建设思路工行实时大数据平台建设历程#1#1工行实时大数据平台建设历程数据集市数据仓库大数据服务云大数据服务云生态圈数据中台Hadoop分布式数据库大内存Hadoop分布式数据库大内存(2002-2007年)(2008-2013年)(2014-2016年)(2017-2019年)(20。

32、师锐字节计算基础架构负责人实时计算在字节跳动的发展与展望#1#1#2#2#3#3发展概览#4#4历程回顾重点工作展望总结#1#1发 展 概 览国 内 业 务海 外 业 务字 节 跳 动 旗 下 产 品实 时 信 息 流 推 荐规 模 与 挑 战实时推荐请求海量存储空间全球 MAU国家与地区运营1919亿亿150150个个EBsEBs百万百万 QPSQPS实时计算在字节跳动的主要应用场景#1#1#。

33、郭育波/高级技术专家FlinkFlink在众安保险金融业务应用在众安保险金融业务应用整体概况整体概况智能营销应用智能营销应用实时特征应用实时特征应用后期规划后期规划#1#2#3#5反欺诈应用应用#4#1#1整体概况整体概况实时计算架构实时计算架构ODSRaw_TableDWD/DIMDWSkafkaFlink SQL/Flink Stream API业务数据库用户行为埋点应用消息事件kafkaV。

34、夏畅斗鱼实时计算负责人Apache Flink在斗鱼的应用与实践背景介绍实时平台建设实时数仓探索未来发展与展望#1#2#3#4#1背景介绍实时计算发展之路2018201820192020spark streaming jarSparkstrom taskStormflink1.9、flink1.10、flink1.11、flink1.12玄武计算flink jarFlink业务场景广告大屏推荐风。

35、刘成龙/实时数仓项目负责人FlinkFlink流处理在中信建投证券的实践与应用流处理在中信建投证券的实践与应用蔡跃/金融资讯数据研发工程师中信建投证券介绍2005年成立成立2016年香港联交所上市2018年上交所主板上市上市上市投资银行业务连续8年保持行业前3名托管证券市值4.31万亿元,位居行业第2名主要经营指标目前均位居行业前10名发展发展中信建投证券中信建投证券 FlinkFlink 架构。

36、刘建刚/技术专家Flink引擎在快手的深度优化与生产实践快手Flink的历史及现状#1容错能力提升#2Flink引擎控制与实践#3快手批处理实践#4未来规划#5目录#1快手Flink的历史及现状发展历程平台化建设典型业务实时化易用性、稳定性、可维护性流批一体、完善生态Flinkstream&batchKafkaRocketMQClickhouseRedisHbaseMySQLHiveHu。

37、胡家煊/字节跳动推荐架构数据研发工程师流批一体在字节跳动特征平台的实践流批一体在字节跳动特征平台的实践Practice of Flink Stream-Batch Unification in ByteDance recommendation system背景介绍背景介绍特征平台架构特征平台架构流批一体实践与探索流批一体实践与探索#1#1#2#2#3#3未来规划未来规划#4 4#1#1业务背景业。

38、毛言粲/新加坡国立大学SANE-LabTrisk:以Task为中心的流处理动态配置的控制平台背景:流作业动态调控挑战:兼顾普适、高效和易用设计:以Task为中心的系统设计实现:基于Flink的Barrier机制评估:Trisk与已有系统的性能对比#1#2#3#4#5#1背景:流作业动态调控流处理的大规模运用机器学习数据分析实时交易流式数据流作业(Stream Job)流处理的大规模运用 长期执行。

39、方勇/字节跳动基础架构工程师Improvements of Job Scheduler and Improvements of Job Scheduler and Query Execution on Flink OLAPQuery Execution on Flink OLAP背景背景BackgroundBackground问题和分析问题和分析Problems Problems&A&a。

40、李志丽/奇虎360A C/C+online feature serving solution for Flink使用Flink/Alink的批流一体特征工程#1在C/C+Online场景下的一些局限#2一种可行的解决方案:Clink#3Clink与Flink共同实现在线学习#4Clink在360的应用#5Clink开源#6使用Flink/Alink的批流一体特征工程机器学习和在线学习(Onlin。

41、陶然/阿里巴巴高级开发工程师、Apache Spark&Flink Contributor周跃跃/蚂蚁集团 OceanBase 架构师蚂蚁实时计算 Flink on OceanBase#1#1蚂蚁实时计算生产实践蚂蚁实时计算生产实践#2 2#3#3蚂蚁蚂蚁 FlinkFlink OnOn OceanBaseOceanBaseOceanBaseOceanBase 社区版技术架构及核心特性社。

42、刘岩/Cloudera Solution EngApacheApache AtlasAtlas MeetsMeets ApacheApache FlinkFlink为什么 Flink 需要对接血缘系统#1#1什么是 Apache Atlas#2#2对接技术实现及未来#3#3目录为什么 Flink 需要对接血缘系统#1#1Flink的三大应用场景Data PipelineAnalyticEvent。

43、谢磊 中国移动云能力中心Apache Flink 在移动云实时计算的实践中移(苏州)软件技术有限公司(中国移动云能力中心)是中国移动通信有限公司的全资子公司。公司定位为中国移动云设施构建者、云服务提供者、云生态汇聚者。公司以移动云运营为中心,产品和服务在电信、政务、金融、制造、交通、医疗等行业得到广泛应用。N+31+X200+2500+100万+属地化资源池支撑产品应用客户实时计算平台介绍#1中。

44、邹云鹤/BIGO Staff EngineerBIGOBIGO使用使用FlinkFlink做做OlapOlap分析及实时数仓的分析及实时数仓的实践及优化实践及优化背景背景落地实践落地实践特色特色&改进改进业务场景业务场景未来规划未来规划#1#2#3#4#5#1#1BIGO OLAPBIGO OLAP分析平台分析平台&实时数仓的业务背景实时数仓的业务背景主要业务为全球用户提供直播服。

45、胡争 Apache Iceberg&HBase PMCApache Apache FlinkFlink 集成集成 Apache Iceberg Apache Iceberg 最佳实践最佳实践HiveHive表面临的挑战表面临的挑战IcebergIceberg的解决方案的解决方案FlinkFlink和和IcebergIceberg最佳实践最佳实践现状及规划现状及规划#1#2#3#4#1#1。

46、龙逸尘/腾讯大数据高级工程师腾讯云原生实时数仓建设实践腾讯云原生实时数仓建设实践The Practice of Constructing Cloud Native Real-time Data Warehouse in Tencent实时数仓实时数仓挑战挑战#1实时数仓实时数仓演进演进#2实时数仓实时数仓实践实践#3实时数仓实时数仓展望展望#4目录目录#1#1实时数仓挑战实时数仓挑战实时数仓应用。

47、李天朔/快手实时数据技术专家快手实时数仓保障体系研发实践快手实时数仓保障体系研发实践业务特点业务特点实时数仓保障痛点实时数仓保障痛点实时数仓保障实时数仓保障体系架构体系架构春节活动实时春节活动实时保障实践保障实践未来规划未来规划#1#2#3#4#1#1业务特点及实时数仓保障痛点业务特点及实时数仓保障痛点快手实时应用场景业务特点?保障诉求保障诉求保障诉求保障诉求严格资源管控极致压榨性能链路分级机制。

48、Flink Next:Beyond Stream Processing王峰(莫问)阿里巴巴开源大数据平台负责人2021:Apache Flink 社区持续繁荣本数据来源 Apache 基金会 2021 财年报告:https:/www.apache.org/foundation/docs/FY2021AnnualReport.pdfApache Flink 年度发布总结Flink 在2021年发布。

展开阅读全文
客服
商务合作
小程序
服务号
折叠