联想王永超：夯实数据底座护航金融转型发展.pdf

1、2024 Lenovo Internal.All rights reserved.夯实数据底座护航金融转型发展联想万全异构智算平台联想金融行业资深架构师王永超2024 Lenovo Internal.All rights reserved.智算与超算的融合发展PFlopsEFlops计算精度FP64FP32FP8FP16数据规模GBTBPBEB工程计算科学计算超算中心AI边缘计算模型推理深度学习模型训练Transformer大语言模型训练智算中心计算规模CPU并行计算为主GFlopsTFlopsGPU、TPU、DPU等计算为主GPU计算为主GPU加速AI for Science2024 Len

2、ovo Internal.All rights reserved.高速交易决策快速分析海量市场数据毫秒级别内做出交易决策应用案例算法交易开发算法交易策略，包括高频交易和算法交易风险管理与异常检测对投资组合进行全面风险管理检测市场中异常行为或欺诈行为个性化投资策略AI大模型的个性化投资策略组合优化优化投资组合，实现最佳的投资回报并降低风险模型预测预测股市未来走势，预测特定股票的价格变动，或整个市场趋势自动化交易执行预设交易规则和条件，AI自动执行交易操作，根据市场实时变化做出调整量化交易策略优化对历史交易数据进行分析和挖掘，发现潜在的交易策略和规律某金融机构利用AI大模型进行量化交易：该私募公司

3、利用AI大模型技术，对板块、研报、另类数据、Tick级交易数据进行因子扫描和挖掘，提前发现潜力价值板块，然后用于量化交易策略中。以此获取更高的阿尔法收益。AI大模型在中国金融行业中的应用场景2024 Lenovo Internal.All rights reserved.中国AI用户面临新的挑战GPU市场从NV一家独大，变为MNC（NV/Intel/AMD）+Local（天数/寒武纪/燧原/昆仑等）共存局面百花齐放的GPU市场，带动软件生态的多元化（不同GPU需对应不同软件生态，导致客户应用AI算力面临巨大挑战）国产NV一家独大MNC2024 Lenovo Internal.All right

4、s reserved.异构算力管理平台统一管理、调度和优化智能和科学算力基于不同GPU算子库实现的算法框架和并行加速库云统一管理CPU为主的通用算力算力管理平台应用生态企业应用行业方案智慧金融智慧医疗智能制造AI模型开发持续打造极致性能、极简易用的人工智能平台开发平台硬件平台AI 硬件设备 GPU 芯片WA7780 G3WA5480 G3WR5220 G3交换机存储SE350 V2SE360 V2边缘400G200GDE-F SAN存储DM-F 统一存储EF300/EF600智能计算科学计算服务器通用计算国产算力芯片2024 Lenovo Internal.All rights reserve

5、d.AI算力生态：芯片、核心部件 数据治理训练、精调AI异构智算平台模型优化模型发布推理推理服务发布AI软件生态：工具、模型 算力管理与监控异构算子库的集成算力调度与优化数据集场景需求应用开发联想万全异构智算平台统一管理、调度和优化智能和科学算力2024 Lenovo Internal.All rights reserved.5+种主流算法框架 10+类算子库 10+家GPU 厂商3类网络3类存储解决之道：针对场景，全自动规划和调度最佳算法与集群配置，为用户跳过繁杂的算力选择和验证联想异构智算平台自动匹配算法、算子自动定义最优硬件配置广泛兼容30+主流GPU灵活配置丰富算力集群联想智能硬件如何

6、验证和匹配上百种算力组合？11大类应用场景/数百种子应用场景算力魔方-将多元场景与多元算力自动匹配2024 Lenovo Internal.All rights reserved.用户态K8S调度OS容器1容器N虚拟化算法无法有效限制容器间资源占用比例资源调度路径长，性能开销大算力分配粒度粗（10%）应用性能波动大，无保障算力利用率vGPU利用率从 80%提升到 95%GPU内核态虚拟化-挖掘处理器潜力内核态GPU驱动虚拟化算法隔离算法：隔离容器算力、显存和故障，保障应用性能调度策略：贴近硬件，以最短路径完成资源调配，开销小于5%算力分配颗粒度可精细到1