当前位置:首页 > 报告详情

Apache Doris 向量检索引擎实现.pdf

上传人: 山海 编号:627214 2025-04-21 28页 3.22MB

1、陈林忠 百度大数据平台部2024.12.14Apache Doris 向量检索引擎实现Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024陈林忠 百度 大数据平台部 资深研发工程师Apache Doris Committer主要从事分布式存储、分布式数据库

2、的研发工作分享嘉宾Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024目录什么是向量检索01Apache Doris 怎么做向量检索02遇到的问题及解法03未来规划04Doris Summit Asia 2024Doris Summit Asia 2024

3、Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 202401什么是向量检索Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris

4、 Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024非结构化数据在迅猛增长非结构化数据结构化数据结结构构化化数数据据 文字日期数字等非非结结构构化化数数据据图片音频视频、文本等面面对对海海量量非非结结构构数数据据,如如何何去去处处理理分分析析挖挖掘掘价价值值?Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Dor

5、is Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024如何表示非结构化数据Embeding Model0,12,0.13,0.14,0.15.0,15,0.13,0.14,0.15.0,19,0.13,0.14,0.15.原原始始数数据据(非非结结构构化化)高高维维向向量量向向量量 E Emmb be ed di in ng g 向量维度比较高,常见的768/1536/4096维 捕捉原来实体特征信息,具有语义信息 相似的实体在向量空间中比较接近单单模模态态 E Emmb be ed di in ng g MMo od d

6、e el l 文本:text-embedding-ada-002 图像:ResNet50 音频:PANNs多多模模态态 E Emmb be ed di in ng g MMo od de el l SigLIP UnumDoris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit A

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文介绍了百度大数据平台部资深研发工程师陈林忠在Apache Doris上的向量检索引擎实现。主要内容包括: 1. 向量检索:介绍向量检索的背景和必要性,以及向量检索的常见方法和度量方式,如cosine余弦距离、L2欧式距离等。 2. Apache Doris向量检索实现:详细介绍Apache Doris如何实现向量索引,包括支持多种距离函数、建表和查询语法适配、向量存储和距离函数支持等。 3. 索引库选型:比较HNSW和DiskANN两种索引库的性能和适用场景,指出DiskANN在成本和稳定性方面的优势。 4. 遇到的问题及解法:分析Doris适配DiskANN过程中遇到的问题,如功能上不支持idfilter过滤、索引文件过多等,并提出相应的解决方案,如支持idfilter混合查找、索引文件合并等。 5. 未来规划:展望未来Apache Doris在向量检索方面的改进和发版计划,包括支持idfilter下推、多文件索引合并、直接传入向量等。 本文旨在推动Apache Doris在向量检索方面的研发和应用,为大数据处理提供更高性能和更高效的解决方案。
"Apache Doris 如何实现向量检索?" "向量检索在实际应用中遇到的问题与解决方案是什么?" "DiskANN 索引库在性能上与 HNSW 相比有哪些优势和不足?"
客服
商务合作
小程序
服务号
折叠