《Michael_新的AI使命:面向智能体时代的全栈C++标准化.pdf》由会员分享,可在线阅读,更多相关《Michael_新的AI使命:面向智能体时代的全栈C++标准化.pdf(45页珍藏版)》请在三个皮匠报告上搜索。
1、Michael WongYetiware AI 首席技术官C+标准委员会机器学习组主席加拿大 ISO 编程语言、功能安全、AI/ML 委员会主席新的AI使命:面向智能体时代的全栈C+标准化The 2025 Reality:Why Now?The Fracturing of the AI Software StackSection 1 The 3 layers of C+AI Stack第 1 部分C+人工智能架构的 3 个层次The Three-Layer C+AI StackLayer 1-The Foundation(Data Science)第 1 层-基础(数据科学)The Futur
2、e:std:data_frameThe Next Frontier:We have the algorithms(ranges,statistics),but we lack the container.The Goal:A heterogeneous,column-oriented container.Status:Experimental/Future.Why needed:To allow AI agents to port Pandas scripts directly to C+.Layer 2-Core Data Structures(mdspan,Tensors&Graphs)第
3、 2 部分:第 2 层-核心数据结构(mdspan、张量和图)Layer 3-The Execution(Performance&Parallelism)第 3 部分:第 3 层-执行(性能与并行性)Section 5:Building a real transformer layer on any backend第 3 部分:在任何后端构建真正的 Transformer 层抽象设备接口设备自动选择适用于CUDA、ROCm或CANN张量分配与管理使用后端特定优化库的矩阵乘法INT8量化部署Abstract Device InterfaceDevice auto-selectionworks on CUDA,ROCm,or CANNTensor allocation and managementMatrix multiplications using backend-specific optimized librariesINT8 quantization for deploymentSection 4-The Agent Imperative and ImageNet for C+第 4 部分-智能体原则与用于 C+的 ImageNetSummary-Part 2Summary of Complete 2-Hour Talk Structure