「那份讲预算的 PDF 存哪了？」——你只记得里面有张折线图，不记得文件名，也忘了存在桌面还是下载文件夹。这类时刻，传统搜索帮不上忙：它按文件名和关键词精确匹配，文件名里没有「预算」两个字，就永远搜不到。
语义搜索换了个思路：把你的问题和每个文件的内容都变成「含义坐标」，按远近找。这条能力过去基本靠云端服务——把文件传上去、在服务器上算。最近开始出现另一条路：模型小到能跑在你的笔记本甚至手机里，索引和检索全程不出设备。转折点的技术背景之一，是 DeepMind 在 2026 年 10 月初开源的 EmbeddingGemma 2。
这篇不教安装、不当工具评测，只把「端侧语义搜索」这件事的判据拆开：能做什么、做不了什么、怎么自己判断数据有没有出你的设备。
原理一句话：把内容变成坐标
语义检索的核心叫 embedding：把一段文字（或一张图、一段音频）压成一串数字向量，意思越接近的内容，向量距离越近。你想找「讲预算的文档」，系统把这句话变成一个向量，再去和库里每个文件的向量比距离——近的那个，就是你要找的。原理细节站内早有科普：Embedding 是什么？AI 读懂文字的秘密武器。
真正的变化在算力侧：过去「变成坐标」这一步依赖云端大模型服务，现在 7 亿参数量级的小模型就能做，而这样的模型可以装进本地设备。云端那条路没有消失，只是多了一个不出网的选项。
EmbeddingGemma 2 把门槛拉到了什么程度
这个模型官方口径是 740M 参数、Apache 2.0 开源，主打端侧：文本、代码、图片、音频可以映射进同一个向量空间，也就是说「一句话同时命中 PDF 里的段落、某张截图、某段录音」在技术上成立了。公开资料称其量化版本运行内存可控制在 600MB 左右、不需要独立显卡，CPU 就能跑；上下文窗口 8192 token，前代 2025 年 9 月发布的 EmbeddingGemma 只有 308M 且仅支持文本。
翻译成大白话：近几年出厂的笔记本、主流配置的手机，硬件上都在它的目标射程内。「按内容搜本地文件」第一次不需要「先把文件传给谁」。
一个现象样本：DigUp
GitHub 上最近有个开源项目叫 DigUp，描述很直白：按文件内容搜你的 Mac——照片、PDF、录音、视频、代码，全部在设备上完成，底层就是 EmbeddingGemma 2。它上架几天就聚了几千 star，说明这个需求真实存在。
但看这个样本要带两个限定：它是 Mac 专用的桌面应用，Windows 和安卓用户暂时无份；它也是早期开源项目，建仓才一周左右，成熟度未经时间检验，把它当「端侧语义搜索现在长什么样」的参照物合适，当「今天就要装的生产力工具」就太急了。站内早报之前提过一嘴「翻旧照片不用上传云」这类动向，可以对照着看。
能做什么：四个真实增益
**一、按记忆碎片找文件。**只记得「大概是讲什么的」，不记得文件名、不记得关键词原文——这正是语义检索相对关键词检索的增量空间。
**二、跨格式一把搜。**多模态向量空间意味着文字、图片、音频进同一套坐标系，不用先想「它是个文档还是张图」。
**三、彻底离线可用。**飞机上、无网环境、涉密内网，索引和检索都在本地，断网不断功能。
**四、敏感材料不出设备。**合同扫描件、私人录音、体检报告，不必上传到任何服务器就能被内容检索——这在过去是二选一的事。
做不了什么：四个别高估
**一、首次建索引是硬成本。**要把全部文件过一遍模型：几千张照片、几百 GB 的库，首次索引以小时计，期间风扇和耗电都会提醒你它在干活。此后增量更新便宜，但第一关躲不掉。
**二、「意思相近」不是「正确答案」。**向量召回的是含义接近的内容：措辞冷门但关键的文件可能被漏掉，语义相近的干扰项可能排在前面。重要场景，语义搜索适合当第一轮筛选，关键词搜索仍要兜底，两者是配合关系不是替代关系。
**三、小模型丢的细节更多。**把一段话压进 768 维向量，小模型保留的语义细节少于云端大模型是技术常识——端侧方案换来的是隐私和离线，付出的是表达力上限。对「找上周的会议纪要」够用，对「找哪份合同里写了那条罕见条款」未必。
**四、老设备体感打折。**内存吃紧的旧机器上，量化模型照样挤占资源；索引期间的发热降频会让「快」变成「理论上快」。
隐私边界：三问自查「真没出设备？」
端侧处理不自动等于安全，「不上云」是宣称，数据流向说明才是证据。动手用任何这类工具前，建议查三件事：
数据流向写没写清楚——索引文件和向量库存放在本地哪个路径，文档里有没有明说；断网是否完整可用——拔网线跑一遍，功能缺不缺；遥测开关在哪——默认关还是默认开，能不能关。开源项目可以再进一步查代码里有没有上报地址。另外提醒一个容易忽略的口子：就算索引全在本地，如果你把索引目录设进了网盘同步文件夹，等于绕了个弯把向量库送出去了。
判断顺序，而不是安装冲动
其实本地模型能跑在手机上这件事，已经先铺开了一层底座；端侧语义搜索是往上的下一块。要不要跟进，顺序应该是：先问自己是不是真的经常找不到文件（多数人的答案是偶尔）；再看设备条件和新索引成本能不能接受；最后才轮到挑工具。就像搞清楚自己的能力边界永远比抢首发划算一样，搞清楚工具的边界，也比赶早上车划算。
Q: 语义搜索和普通搜索有什么区别？
普通搜索按文件名和关键词精确匹配，文件名里没有那几个字就搜不到；语义搜索把查询和文件内容都转成向量、按含义远近匹配，只记得大意也能找到。但结果性质是「相近」而非「精确」，重要场景建议两者配合使用。
Q: EmbeddingGemma 2 需要什么设备？
官方口径 740M 参数，公开资料称量化后运行内存约 600MB、无需独立显卡，近几年出厂的笔记本和主流配置的手机 CPU 都在目标范围内。但首次全盘建索引的耗时和耗电仍然明显，旧设备建议谨慎预期。
Q: Windows 或安卓现在能用上吗？
模型本身 Apache 2.0 开源、与平台无关，本地部署工具生态在陆续跟进；产品化应用目前以 Mac 端居多，其他平台的成熟度需要看后续。选型前先看项目的平台支持说明，再决定动不动手。
Q: 怎么确认数据真的没出我的设备？
三步自查：看文档是否写明索引和向量库的本地存放路径；断网状态下功能是否完整；遥测与上报开关是否默认关闭且可关。开源项目还可以查代码里有无上报地址。「不上云」只是宣称，数据流向说明才是依据。
评论