每天听简报，了解最新科技、AI、软件资讯
做本地资料检索，要先把文字变成可比较的向量。llama.cpp 现在接入了 EmbeddingGemma 2。十月六日，官方仓库把这项支持合入主分支，改动范围写明文本、视觉和音频。代码加入了模型转换、向量输出参数和模型加载支持，并给出了 GGUF 模型页面。维护者称这是发布当天的适配。对开发者来说，值得关注的是现有本地推理工具多了一个嵌入模型入口。准备接入时，还要核对自己所用版本是否包含这次合并；这个更新本身没有给出检索效果或运行速度的独立测量。
进度保存在本设备 · 登录同步