openEuler：2026年openEuler 24.03 LTS SP4 技术白皮书（104页）.pdf

核心结论速览。 openEuler 24.03 LTS SP4使能AI推理全栈加速：XPUTurbo异构协同加速运行时支持DeepSeek/Qwen等主流模型，在单张NPU卡上即可推理Qwen3-235B-A22B模型；GMem异构内存管理在超分两倍以上时性能领先NVIDIA-UVM 60%+。 Witty智能体让操作系统运维从命令行走向自然语言：运维人员可通过智能Shell入口用自然语言与OS交互，完成性能数据采集、系统性能分析、系统参数寻优等作业。 灵衡超节点OS组件实现跨节点内存池化与通信：操作系统灵窗组件在OS原有内存管理、通信、设备管理和虚拟化框架上扩展支持灵衡，实现跨计算节点跨设备内存借用、共享。 64K内核发布，arm镜像支持4K/64K可选安装：基于64K特性提升OS基础场景性能，同时保持与upstream社区特性兼容性。 毕昇JDK元数据压缩将AArch64对象头从128/96 bits降至64 bits：适用于小对象分配多的场景，大数据部分场景端到端收益显著。 secScanner安全加固工具覆盖安全管理/漏洞扫描/入侵检测三大能力：支持多基线选择、一键安全检测与加固、从openEuler安全中心下载CVE公告进行全量或轻量化扫描。openEuler AI能力深度解析。XPUTurbo：大语言模型异构协同加速运行时。XPUTurbo专注于单机多卡环境下大模型推理任务的性能提升，针对鲲鹏+XPU（GPU、NPU等）的异构算力协同。核心能力： CPU推理加速：通过NUMA亲和调度、矩阵运算并行加速、SVE指令集推理算子适配。 异构融合调度：支持PD分离（Prefill在GPU执行、Decode在CPU执行）和AF分离（FFN在CPU执行）两种模式。 模型适配：已适配DeepSeek 7B/14B/32B及Qwen2.5/Qwen3/Qwen3-MOE系列。 硬件支持：Nvidia、昇腾等主流硬件。 AF分离模式：支持在单张NPU卡上进行Qwen3-235B-A22B模型推理。GMem：异构通用内存管理框架。GMem提供了异构内存互联的中心化管理机制，GMem API与Linux原生内存管理API保持统一。核心技术： 统一虚拟地址空间：将OS与加速器并行的两套地址空间合并为统一虚拟地址空间。 逻辑页表：维护统一虚拟地址空间，支持不同处理器、不同微架构间多份页表的一致性。 分级内存管理：系统自动管理数据在不同存储介质间的迁移（如DRAM和HBM）。 Remote Pager：主机和加速器设备之间协作的消息通道、进程管理、内存交换和内存预取。 用户API：mmap系统调用新增MAP_PEER_SHARED标志，libgmem提供hmadvise接口。约束限制：需使用昇腾NPU卡，仅支持2M大页。ModelFS：模型启动加速。ModelFS针对大语言模型推理启动阶段的模型加载瓶颈进行优化，在保证强兼容性的前提下优化文件系统缓存策略。架构： ModelFS-K（内核模块） ：提供文件系统页缓存可编程框架，堆叠FS挂载到现有FS之上。 ModelFS-U（用户态模块） ：提供缓存策略运行时，用户实现init/exit/prefetch/evict函数。典型用法：远端OBS存储权重预热（聚合多个OBS桶带宽）、本地SSD权重加载加速（基于I/O模板精确预取）。NPU算力切分（xSched）。xSched是面向中小模型的通用调度框架： 基础调度机制：任务抢占、时间片切分、组调度、算力带宽管控、显存容量管控。 应用场景：多推理任务混部（在线-在线）按需分配单卡算力；多训推混部（在线-离线）实现推理任务快速抢占离线任务。故障快恢。为AI推理容器提供秒级故障快速恢复能力，将恢复时间从分钟级降低到秒级。基于CRIU组件支持进程状态dump/restore，支持NPU驱动状态导入导出，实现与K8s生态对接。Witty智能体实操指南。双入口使用。Web入口：可视化进行知识库构建和使用、知识库准确率自动化测试、openapi形式语义接口注册、基于语义接口的工作流应用构建、MCP注册安装激活、基于MCP的Agent应用构建。智能Shell入口：调用智能体框架中的智能问答或预集成Agent应用，运维人员通过自然语言与openEuler进行智能交互。核心功能。智能问答（RAG增强） ：检索前处理（查询改写）、知识索引（摘要/树形解析/OCR）、8种检索方法（含动态关键字权重和大模型过滤）、检索后处理（上下文补全/rerank/token压缩）。工作流应用：语义接口以openapi 3.0+ yaml注册或Python编码注册；可视化编排工作流并调试发布。Agent应用：MCP协议将复杂多样服务统一封装；Agent将用户目标拆解成阶段性需求，使用MCP服务下工具完成目标。团队管理与语料治理。团队管理（RBAC） ：角色原子权限编辑、成员邀请与权限赋予、资产库文档/数据集/测试结果增删改查。语料治理：上下文位置信息提取、文本摘要、OCR增强、文档溯源（生成答案时在对应句子右下方生成角注）。灵衡超节点OS组件实操。操作系统灵窗组件（UB OS Component）在OS原有内存管理、通信、设备管理和虚拟化框架上扩展支持灵衡。Device Mgmt：UB设备管理。基于Linux Device Mgmt模型扩展支持UB总线驱动、UB设备热插拔、sysfs查看、udev事件、UB User Driver。Memory Mgmt：跨节点内存访问。DMA/SVA Memory Mgmt将主机内存注册给UB设备使用；Pooled Memory Mgmt支持远端内存上线到NUMA node或通过mmap映射使用。Communication：跨节点通信。Connection Mgmt实现异步通信连接管理；UBComm Lib提供异步通信和统一远程过程调用接口；兼容glibc socket接口。Virtualization：UB设备直通虚拟机。qemu扩展实现Bus Controller、UB设备、UMMU虚拟化；libvirt扩展支持UB设备创建删除；vfio-ub支持UB设备虚拟化。编译器与JDK优化实操。LLVM for openEuler。 ThinLTO Split：将编译单元分块并行编译，加速大型应用构建。 Dwarfutils：消除ThinLTO Split导致的Debuginfo信息膨胀。 Triton-CPU：全量支持FlagGems算子，亲和AArch64 SVE/SME指令。毕昇JDK关键特性。CompactStrings（JDK8/17/21） ：String内部从char[]改为byte[]+encoding标识，Latin-1字符内存节省50%。JProfileCache（JDK8/17/21） ：记录上一次运行Profiling信息，再次启动时先触发热点方法编译，加速VM启动与预热。元数据压缩（JDK17/21 AArch64） ：将对象头从128/96 bits降到64 bits，小对象分配多场景收益显著。KAE加速器（JDK21） ：KAEProvider支持OpenSSL 3.0，加解密性能大幅提升；KAE zip支持ZLIB/GZIP数据格式压缩，压缩带宽大幅提升。安全与可靠性实操。secScanner安全加固。基于“3核心能力+3公共能力”技术架构： 安全管理：多基线选择/定制安全基线，一键安全检测/加固/配置还原。 漏洞扫描：从openEuler安全中心下载CVE公告，全量或轻量化扫描。 入侵检测：调用secDetector检测潜在恶意rootkit模块。sysSentry故障管理。统一告警/事件通知服务、统一日志服务、故障诊断/巡检框架（插件化C/C++/Python/Shell）、轻量级数据采集服务。慢IO检测：基于滑动窗口分析io时延，支持平均阈值和AI算法聚类两种插件。GTA远程证明。服务端支持证书/策略增删改查、Quote验证、JWT Token生成；客户端支持采集本地TPM证据。安全特性：数据库完整性保护、数据链路加密、防重放、SQL防注入、用户隔离、密钥轮换。应用场景：AI模型保护、用户隐私保护、密钥管理。以上为报告核心内容摘要，如需获取完整报告详细数据及全部技术特性，请访问下载页下载完整PDF报告。FAQ。问：XPUTurbo支持哪些模型和硬件？XPUTurbo已适配DeepSeek 7B/14B/32B及Qwen2.5/Qwen3/Qwen3-MOE系列模型，支持Nvidia、昇腾等主流硬件。开启AF分离后支持在单张NPU卡上推理Qwen3-235B-A22B模型。问：Witty智能Shell入口能做什么？运维人员可通过智能Shell入口用自然语言与openEuler交互，完成性能数据采集、系统性能分析、系统参数寻优等作业，降低复杂命令构造和修改成本。问：GMem相比NVIDIA-UVM有什么优势？在超大模型训练中，GMem性能领先NVIDIA-UVM，随着内存使用量增长领先比例不断提升。在超分两倍以上时可领先NVIDIA-UVM 60%以上（基于NPU-Ascend910与GPU-A100硬件，在相同HBM内存条件下测试）。问：如何获取openEuler的安全更新？secScanner漏洞扫描功能支持从openEuler安全中心下载安全公告和CVE公告，保存在本地漏洞数据库，对系统组件进行全量扫描或轻量化定向扫描。问：毕昇JDK的CompactStrings能节省多少内存？对于仅包含Latin-1字符的字符串（如纯英文文本），内存占用节省约50%。数据来源说明。本报告所有内容来源于OpenAtom openEuler社区白皮书（2026年6月30日版本），涵盖openEuler 24.03 LTS SP4版本特性及社区发展历程。