智源开源最强语义向量模型BGE！中英文测评一起超过OpenAI、Meta

Writer： admin Time：2023-08-09 Browse：124

　　语义向量模型（Embedding Model）也曾被平时诈欺于搜寻、举荐、数据发现等垂危领域。

　　在大模型时代，它更是用于治理幻觉问题、学问时效标题、超长文本标题等种种大模型己方制约或不敷的须要本事。不过，今朝华文宇宙的高质量语义向量模型仍对比稀缺，且很少开源。

　　为加疾执掌大模型的制约题目，此日，智源揭晓最强开源可商用中英文语义向量模型BGE（BAAI General Embedding），在中英文语义检索精度与全体语义表征智力均跨越了社区全盘同类模型，如OpenAI 的text embedding 002等。其余，BGE 团结了齐截参数量级模型中的最小向量维度，操纵资本更低。

　　本次BGE模型合联代码均开源于FlagOpen飞智大模型时刻开源体制旗下FlagEmbedding项目，一个聚焦于Embedding岁月和模型的新版块。智源推敲院将连绵向学术及资产界开源更为无缺的大模型全栈期间。

　　与此同时，鉴于目前华文社区亏欠一概的评测基准，智源团队发表了当今最大界限、最为一起的华文语义向量表征才略评测基准C-MTEB（Chinese Massive Text Embedding Benchmark），席卷6大类评测劳动和31个数据集，为评测汉文语义向量的综合表征才具奠定实在的根蒂，总计试验数据以及评测代码已开源。

　　值得大模型行使开辟者合心的好消歇：将 LangChain 与智源BGE贯串，可能轻松定制本地知识问答辅佐，而不提供花较高的成本演练垂类大模型。

　　BGE 是方今中文任务下最强语义向量模型，各项语义表征材干全体越过同类开源模型。

　　中文语义向量综关表征能力评测 C-MTEB 的实践终末体现（Table 1），BGE华文模型（BGE-zh）在对接大发言模型最常用到的检索才华上领先优势尤为光鲜，检索精度约为 OpenAI Text Embedding 002 的1.4倍。

　　与汉文才调相好似，BGE 英文模型（BGE-en）的语义表征才干同样精美。依照英文评测基准 MTEB 的评测最后（Table 2），尽量社区中已有不少先进的基线模型，BGE 仿照在总体指标（Average）与检索智力（Retrieval）两个重心维度横跨了此前开源的全数同类模型。

　　此前，中文社区一向亏空一起、有效的评测基准，BGE 想量团队仰仗现有的汉文开源数据集构修了针对华文语义向量的评测基准 C-MTEB（Chinese Massive Text Embedding Benchmark，如 Table 3所示）。

　　C-MTEB 的建设参照了同类别英文基准 MTEB [12]，一共涵盖6大类评测工作（检索、排序、句子相似度、推理、分类、聚类），涉及31个相干数据集。

　　C-MTEB 是当前最大范畴、最为全数的华文语义向量评测基准，为确实、一起的尝试中文语义向量的综合表征才干需要了练习根柢。

　　现在，C-MTEB 的总计实验数据以及评测代码已连同 BGE 模型一并开源。

　　BGE 精巧的语义表征才干源于两方面要素：1）针对表征的预教练，2）大范畴文本对陶冶。

　　BGE 在悟道 [10]、Pile [11] 两个大周围语料集上接纳了针对表征的预磨练算法 RetroMAE [5,6]（Figure 2）：将低掩码率的输入编码为语义向量（Embed），再将高掩码率的输入与语义向量拼接以重筑原始输入。如此一来，BGE 得以愚弄无标签语料达成途话模型基座对语义表征职分的适配。

　　BGE 针对华文、英文离别构筑了多达120M、232M的样本对数据，从而助手模型控制实质场景中各式差别的语义成家任务，并借助负采样扩增 [7] 与难负样例开掘 [8] 进一步提升比照研习的难度，实现了多达65K的负样本规模，增强了语义向量的判定才调。

　　另外，BGE 鉴戒 Instruction Tuning [9] 的想思，接纳了非对称的指令增加技巧，在问题端添加场景描画， 擢升了语义向量在多劳动场景下的通用才气，如Figure 3所示：

　　综上，BGE 是方今功能最佳的语义向量模型，加倍在语义检索才调上大幅带头。

　　其优秀的才能为构筑大叙话模型行使（如阅读认识、通畅域问答、学问型对话）需要了危机的效用组件。相较于此前的开源模型，BGE 并未扩展模型范畴与向量的维度，于是连接了宛如的运行、保全效率。

　　当今，BGE 中英文模型均已开源，代码及权重均选用 MIT 附和，拯济免费商用。

　　看成智源「FlagOpen大模型岁月开源体系」的危机组成部分，BGE 将连接迭代和改造，赋能大模型生态基础措施作战。

　　语义向量模型（Embedding Model）被一般行使于搜索、保举、数据发掘等危机周围，将自然样式的数据样本（如发言、代码、图片、音视频）转移为向量（即络续的数字序列），并用向量间的“隔离”量度数据样本之间的“关系性” 。

　　只能基于模型锻练中的阶段性「呆滞」学问储藏，是导致大模型在回覆标题时展现幻觉的厉重因素。而借助语义向量模型的接济，大模型可能获得与时俱进的「活知识」，答案又新又准。具体而言，原委语义向量模型创造某个垂直领域的学问库索引（Index），可以为大模型高效添补天下学问、要地学问：当用户向LLM提问时，LLM 会从最新最全常识库中获得答案。

　　大模型困悠久回忆久已，现有LLM存在高低文输入长度限度，制约了长文本方面的处分智力。欺诳语义向量模型，可将长文档构造化，与LLM更好地直接交互，从而填补长文本执掌才具短板。

　　OpenAI、Google、Meta 等厂商均推出了针对大模型的语义向量模型及API效劳，直接荧惑了环球大模型开拓者社区出世了众多有影响力的大模型行使框架及器材：诸如大模型运用框架 LangChain、向量生存数据库Pinecone、文档伎俩化索引用具Llama Index、自决「想考」圭表并了结使命的副手AutoGPT 等。