北京金融科技产业联盟：金融数据中心人工智能算力建设指引（2023）（68页）.pdf

1、 金融数据中心 人工智能算力建设指引 北京金融科技产业联盟 2023 年 8 月 I 版权声明 本白皮书版权属于北京金融科技产业联盟，并受法律保护。转载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来源。违反上述声明者，将被追究相关法律责任。II 编制委员会 编委会成员：王长江 聂丽琴 张海燕 编写组成员：赵春华 王妍娟 葛金磊 张浩然 吴仲阳 宋 虎 余学山白 阳 符海芳 李书建 黄志鹏 徐 旭 陆碧波 薛 亮谭 翔 马庆杰 李 洁 郭 亮 王 月 吴 刚 郭江波吴战立 雷昭燕 袁 智 王伟锋 李 培 彭 晋 李俊奎杨海悌 俞颖熙 程归鹏 张贯忠 李鸿鹏 宋 飞 玄凌博郑鹏飞 黎世勇

2、王云凤 编审：黄本涛 周豫齐 王妍娟 张浩然 III 参编单位：北京金融科技产业联盟秘书处 北京国家金融科技认证中心有限公司 中国工商银行股份有限公司 华为技术有限公司 浙江网商银行股份有限公司 中国信息通信研究院 腾讯云计算（北京）有限责任公司 新华三技术有限公司 蚂蚁科技集团股份有限公司 中科寒武纪科技股份有限公司 超聚变数字技术有限公司 北京百度网讯科技有限公司 IV 前 言 前 言 人工智能基础设施作为“新基建”的重要组成部分，是数字化走向智能化的核心力量，是金融机构智慧再造的关键载体。近年来，我国发布多项政策文件，进一步明确人工智能的发展规划，对人工智能算力建设指出方向。2021 年

3、底，中国人民银行发布金融科技发展规划（20222025 年），提出抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用，着力打造场景感知、人机协同、跨界融合的智慧金融新业态，实现金融服务全生命周期智能化。人工智能算力数据中心是以数据中心为基础的人工智能基础设施。具体来说，人工智能数据中心是在超算中心和云计算数据中心大规模并行计算和数据处理的技术架构基础之上，通过大数据和深度学习技术保障其高效、安全运营，以人工智能专用芯片为计算算力底座，融合公共算力服务、数据开放共享、智能生态建设、产业创新聚集“四位一体”的综合平台，可提供算力、数据和算法等人工智能全栈能力，是当前人工智能快速

4、发展和应用所依托的新型算力基础设施。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容，其中算力包括 AI 芯片、AI 平台、智能计算中心等产品，提供高性能、低成本、绿色的计算能力是算力建设的关键目标。本报告阐述了国内外人工智能算力建设情况，梳理了当前金 V 融数据中心人工智能算力建设面临的挑战，从整体上提出人工智能算力数据中心的架构，围绕基建、硬件及软件基础设施给出了人工智能算力建设指引，并进一步分析了传统与新型算力、数据中心算力与边缘算力、算力与网络等关键技术的协同建设问题，探索了人工智能算力数据中心绿色低碳运维模式，最后通过成功案例展望未来，以期为金融机构数据中心建设人工智能算力

5、基础设施提供指引与参考。关键词：关键词：人工智能、AI 算力、人工智能算力数据中心、AI 使能软件、AI 开发框架 VI 目 录 目 录 第一章 发展背景和研究目标.1 一、发展背景.1（一）国家政策及“十四五”规划要求.1（二）金融科技发展的基础支撑.4（三）国内外当前 AI 算力建设情况.4 二、研究目标.9 第二章 面临的挑战和难点.10 一、整体看.10（一）数据中心 AI 算力发展不均衡.10（二）数据中心 AI 计算能力不足.10（三）数据中心 AI 算力连接和协同能力不强.10（四）数据中心 AI 算力调度不灵活.11 二、分层看.11（一）数据中心选址问题（L0 层）.11（二

6、）能耗及供电问题（L1 层）.12（三）AI 算力底座与周边设备及网络的问题（L2 层）.12（四）支持不同业务场景的 AI 应用问题（L3 层）.13 第三章 建设指引.14 一、人工智能算力数据中心架构.14（一）总体架构.14（二）分层布局.15 二、基建基础设施层（L0-L1).20 三、硬件基础设施层（L2）.20（一）AI 芯片.20（二）AI 服务器.21（三）AI 计算子系统.22 四、软件基础设施层（L3）.22 VII（一）芯片使能软件.22（二）AI 开发框架.23（三）使能软件.23 第四章 建设协同.30 一、整体原则.30 二、传统算力与新型算力协同.30（一）算力