谷歌推出 EmbeddingGemma：高效的移动端文本嵌入模型

来自谷歌深度学习团队的最新消息，他们正式推出了 EmbeddingGemma，这是一款专为移动设备设计的开源嵌入模型。EmbeddingGemma 以其308百万个参数的高效设计，在 MTEB（大规模文本嵌入基准）中被评为500M 以下的最佳多语言文本嵌入模型，展现出强大的功能，如检索增强生成(RAG)和语义搜索，能够在没有互联网连接的情况下直接在手机等设备上运行。

EmbeddingGemma 的优越性在于，它的性能可与几乎是它两倍大小的热门模型相媲美。它不仅小巧而且灵活，适用于多种场景，支持768到128的可定制输出维度，并拥有2000个上下文令牌窗口，能够在手机、笔记本电脑和桌面等日常设备上运行。此外，它还与多种流行工具集成，用户可以方便地与 sentence-transformers、MLX、Ollama 等工具合作。

EmbeddingGemma 在建立 RAG 管道时表现出色，能够生成文本的嵌入，即将文本转换为数字表示，以高维空间表示其意义。在 RAG 管道中，首先根据用户输入生成嵌入，并计算其与系统中所有文档嵌入的相似度，从而检索到最相关的文段。这种高质量的嵌入能够确保最终生成的回答准确且上下文相关。

此外，EmbeddingGemma 在速度和资源消耗方面也经过精心设计，具有小巧、快速和高效的特点。其嵌入推理时间低于15毫秒，允许实时交互。它的离线功能确保了用户数据的隐私安全，特别适合于开发基于移动设备的应用程序。

开发者们现在可以利用 EmbeddingGemma 实现个性化的聊天机器人，进行文件搜索，或为特定领域进行快速微调。无论是在线下应用，还是需要高效性能的服务器端应用，EmbeddingGemma 都提供了理想的选择。

官方博客：https://developers.googleblog.com/en/introducing-embeddinggemma/

划重点:

🌟 EmbeddingGemma 是一款308M 参数的开源嵌入模型，专为移动设备设计，能够在无网络情况下运行。

📱 它支持多种工具集成，灵活适应各种应用场景，满足开发者的需求。

🔒 强大的离线功能确保用户数据安全，提升隐私保护，为移动端应用提供了可靠支持。