清华大学战略与安全研究中心（CISS）：2025人道行动中负责任使用技术研究报告（19页）.pdf

1、报告研讨会人道行动中负责任使用技术2025年12月4日至5日|中国北京研讨会报告研讨会主办方.4执行摘要.5引言.6人道主义行动中技术负责任使用研讨会.7致谢.19分论坛一：负责任的人工智能：伦理、安全与问责治理.11分论坛二：技术向善：技术如何支持高效协同的危机应对？.13分论坛三：人工智能安全保障：危机环境负责任部署的可行防范措施 .15分论坛四：数字信任：构建和维护在互联世界中的信心 .17目录4 人道行动中负责任使用技术研讨会研讨会主办单位清华大学战略与安全研究中心红十字国际委员会清华大学战略与安全研究中心成立于2018年11月7日，是聚焦国际战略与安全领域研究的清华大学校级智库。中心

2、有两大目标：一是研究国际秩序、国际关系及战略与安全问题，跟踪国际形势变化，为决策提供参考和建议，向社会传递理性专业声音；二是通过国际交流与合作阐释和传播中国的理念和政策主张，增进国际社会对中国的了解，提升清华大学在战略与国际关系领域的影响力。中心下设美欧研究、全球治理研究、欧亚研究、人工智能治理等研究方向，设有致力于国际传播的子品牌“中国论坛”以及覆盖国内外一流高校的学生学术项目“战略青年”，指导清华大学学生全球战略研究协会和中美新声人文交流社团。红十字国际委员会是一个公正、中立和独立的组织，其独特的人道使命在于保护武装冲突和其他暴力局势受难者的生命与尊严，并为其提供援助。红十字国际委员会东亚

3、地区代表处于2005年7月在北京设立。过去几十年来，随着中国的国际地位愈发显著，该代表处将鼓励并支持中国为国际人道事业作出贡献作为其使命。东亚地区代表处积极推进并维护与中国政府、军队、警方、中国红十字会、智库与学术机构、媒体以及企业界的战略对话，就人道议题和国际人道法的推广展开深入交流。同时，东亚地区代表处同时也是红十字国际委员会在全球最大的采购中心之一。红十字国际委员会卢森堡全球网络事务代表处的设立，旨在应对数字化转型对武装冲突和人道行动日益加深的影响。红十字国际委员会依托该代表处，将网络和数字层面的考量纳入其中立、独立的人道行动中，并始终优先考虑受冲突影响民众的需求。该代表处的使命是确保红

4、十字国际委员会在网络空间及整个数字时代，始终作为中立、公正且独立的人道组织开展行动。为践行这一使命，该代表处积极开展战略研究、推动法律与政策层面的接触沟通、实施外联举措并推进行动创新。5执行摘要“人道行动中负责任使用技术研讨会”汇聚了来自近20个国家的80多名人道实践者、学术研究人员及产业界代表，共同讨论了新兴技术正在如何重塑人道行动，以及在危机环境中负责任使用这些技术所需要采取的措施。第一场圆桌会议围绕“负责任的人工智能”主题展开，重点探讨治理、伦理与问责三个关键问题。与会者一致认为，人的控制与对人的问责仍是人工智能治理的核心，因为法律和伦理责任不能转嫁给机器。讨论指出，尽管不同地区监管方式

5、存在差异，各方在安全性、透明度、人类监督与包容性等共同原则上正逐步形成共识。与会者同时强调，仅靠原则已不足以应对当前挑战。推动负责任的人工智能，需要建立具体的保障措施、测试与评估机制、明确的责任链条以及可执行的问责体系。第三场圆桌会议围绕“人工智能的安全与保障”议题，探究如何在危机环境中负责任地部署人工智能。与会者一致认为，人工智能风险程度与使用情境高度相关，比如在物流或后台职能中应用风险较低，而影响分诊或预警系统的人工智能系统则风险更高。由于人工智能系统将数据直接嵌入算法，基于“安全设计”理念，人们必须在数据、透明度和模型训练方面做出艰难抉择。讨论强调，必须让工作人员和社区具备识别偏见与风险

6、的能力，使其在必要时能够对人工智能系统提出质疑并保持审慎；人道组织无法单独管理这些风险，因此与学术界、产业界及公共部门的合作至关重要。第四场圆桌会议围绕“数字信任”展开，重点探讨在互联世界中如何构建和维护信任。与会者将信任界定为一种由实践驱动的关系型概念，并一致认为，信任建立在一致、透明且可预测的行为基础上。在冲突环境中，数字信任尤为脆弱。敏感数据的滥用或泄露不仅可能直接危及民众安全，也会阻碍人道援助的准入与接纳。展望未来，与会者强调，构建并维系信任需要对未来风险做好准备和预判，包括制定系统发生故障或被滥用情况下的应急预案，并推行如数字红十字、红新月及红水晶标志等务实举措。第二场圆桌会议围绕“