智源研究院：2021年十大人工智能技术趋势（26页）.pdf

《智源研究院：2021年十大人工智能技术趋势（26页）.pdf》由会员分享，可在线阅读，更多相关《智源研究院：2021年十大人工智能技术趋势（26页）.pdf（26页珍藏版）》请在三个皮匠报告上搜索。

1、2020 年初， Google 与 Facebook 分别提出 SimCLR 与 MoCo 两个算法， 均能够在无标注数据上学习图像数据表征。两个算法背后的框架都是对比学习（contrastive learning）。对比学习的核心训练信号是图片的 “可区分性”。模型需要区分两个输入是来自于同一图片的不同视角， 还是来自完全不同的两张图片。这个任务不需要人类标注， 因此可以使用大量无标签数据进行训练。尽管 Google 和 Facebook 的两个工作对很多训练的细节问题进行了不同的处理，但它们都表明，无监督学习模型可以接近甚至达到有监督模型的效果。康内尔大学提出可缓解检索排序马太效应问题的无

2、偏公平排序模型：近年来， 检索的公平性和基于反事实学习的检索和推荐模型已经成为信息检索领域重要的研究方向，相关的研究成果已经被广泛应用于点击数据纠偏、模型离线评价等，部分技术已经落地于阿里巴巴和华为等公司的推荐及搜索产品中。2020 年 7 月， 康奈尔大学 Thorsten Joachims 教授团队发表了公平无偏的排序学习模型FairCo，一举夺得了国际信息检索领域顶会 SIGIR 2020 最佳论文奖。该研究分析了当前排序模型普遍存在的位置偏差、 排序公平性以及物品曝光的马太效应问题等， 基于反事实学习技术提出了具有公平性约束的相关度无偏估计方法， 并实现了排序性能的提升， 受到了业界的

3、广泛关注和好评。机器学习与科学计算的结合， 即数据和机理的融合计算， 为科学研究提供了新的手段和范式， 成为了前沿计算的典型代表。从机理出发的建模以基本物理规律为出发点进行演绎，追求简洁与美的表达 ； 从数据出发的建模从数据中总结规律，追求在实践中的应用效果。这两方面的建模方法都在科学史中发挥了重要作用。近年来， 科学计算发展的一个重要趋势是由单纯基于机理或数据的范式向数据与机理的融合建模与计算发展。众多前沿科学领域中的许多重要问题常常涉及多个发生在不同时空尺度上相互耦合的物理过程， 具有高度的各向异性、奇异性、非均匀性以及不确定性等特征。人类只能知道部分原理和数据，此时机理与数据结合的方式将成为研究这些问题的有力手段。随着大数据、人工智能、量子计算等新技术的快速发展，人类社会已经步入了第四次工业革命时代。计算作为第四次工业革命的核心， 其前沿算法和基础理论正在发生巨大变化， 呈现出基于数据的机器学习与基于机理的科学计算两大领域接近与融合、 算力突破性发展由量变引发质变、计算在社会生活中无处不在引发深刻社会影响等趋势。