增量更新索引
追踪输入内容的变化;再次运行流程时跳过未变化的处理结果,并同步新增、修改或删除内容对应的输出。
BAIZE AI RESOURCE
Cocoindex
Cocoindex 是用于构建数据处理与索引流程的工具,可将文件或云端资料转换为可查询的数据。它会追踪来源变化,在再次运行时只处理受影响的内容,帮助开发者减少重复处理工作。

Cocoindex 面向需要整理和检索持续变化资料的开发者。用户可以编写处理流程,读取本地文件或云端存储中的内容,再将其转换为文本、向量或表格记录。仓库示例展示了文档分段与嵌入、音频转录,以及将结果写入可查询目标的用法。它的重点是增量更新:资料新增、修改或删除后,再次运行流程即可同步受影响的结果,而不必每次从头处理全部数据。适合构建文档语义搜索、录音转录索引等应用;具体示例所需的模型凭据和存储服务随所选流程而异。
追踪输入内容的变化;再次运行流程时跳过未变化的处理结果,并同步新增、修改或删除内容对应的输出。
可将 Markdown 文档分段并生成向量,写入检索目标,用于按自然语言查找相关内容。
示例流程可读取文件夹中的音频,调用语音转文字模型,并按文件名保存转录文本。
示例支持从 Amazon S3 或 Azure Blob Storage 读取匹配的 Markdown 文件,处理后建立索引。
使用场景开发者需要检索存放在云端的 Markdown 文档。
使用 Amazon S3 文档嵌入示例读取匹配文件,分段生成向量并写入检索目标;文档变化后重新运行流程,同步受影响的索引内容。
使用场景团队希望将文件夹中的会议录音整理为可查询的文字记录。
使用音频转文字示例逐个转录音频,并按文件名保存结果;新增或修改录音后重新运行流程,更新相应记录。