在微信中打开



电商系统搜索场景推荐的千人千面——语料库建立

硬核刘大

2024-03-21

2809

【建站扶持计划】

免订阅费，免费SEO与代建站，16大主流媒体免费开户

立即查看>>

导读：如何建立语料库

搜索和推荐场景的联动行为，千人千面的用户兴趣；

搜索步骤

用户输入搜索关键词，搜索系统根据输入信息，筛选出用户可能喜欢的内容，同时按照某种重要性进行排序并展示。简单而言，搜索可以分为三步：

对用户输入搜索词的解读
根据搜索词对内容筛选
对筛选后的结果集排序并展现，并且根据用户反馈进入新的搜索服务

搜索前行为记录

条件：对用户当前需求没有显式信息
定位：以推荐为主
典型产品：搜索底纹、搜索发现、历史搜索词、热门搜索词
搜索物料：历史搜索词、短期、长期商品交互（点击、加购、收藏、购买）、其他人的搜索及站内行为

搜索中行为记录

条件：需求部分已知
定位：辅助查询输入
典型产品：查询智能补全(SUG) /搜索联想
搜索物料：短期、长期商品交互(点击、加购、收藏、购买)、其他人的搜索及站内行为

搜索后的行为结果

条件: 用户完成搜索，已获取结果列表，排序及展示结果页
定位: 辅助用户修正结果或重新查询
典型产品: 相关搜索、筛选、泛词引导/锦囊、搜索纠错，搜索确认、搜索排序
搜索物料:搜索词下类目重要属性，短期、长期商品交互(点击、加购、收藏、购买)、其他人的搜索及站内行为

动态流通语料库

语料库的语种，语料库也可以分成单语的(Monolingual)、双语的(Bilingual)和多语的(Multilingual)，按照语料的采集单位，语料库又可以分为语篇的、语句的、短语的；双语和多语语料库按照语料的组织形式，还可以分为平行(对齐)语料库和比较语料库，统称为的语料构成译文关系。

语料：从单语种到多语种
数量：从百万级到千万级再到亿级和万亿级
加工：从词法级到句法级再到语义和语用级
文本：从抽样到全文
特点:动态性，不确定一个固定的库容量(例如:把库容量目标确定为数百万字，上千万字，数千万字，数亿字等)

不确定一个固定的选择文本的时间段(例如:确定为49年-82年，80年-90年，90年-95年语料等)；

不确定一个固定的文本选择范围或应用领域(例如:确定为只收现代汉语文学语料，或新闻语料，或科技语料或中小学生语料等，从而建立一些专门的语料库)；

不确定一些固定的文本抽样对象(例如三只松鼠，新能源电池，蒙牛酸奶，等)。

定时抽取的语料库:根据大众媒体的传播情况，依据一定的原则来动态抽取；以观察和测量到流通度的变化情况，可以追踪到语言成分的产生，成长和消亡。

搜索的精准匹配推荐与记录

搜索词充当了用户与搜索工具之间的重要沟通载体，借助关键词实现用户自我意识与搜索引擎之间的交流，形成了一个意识产生、关键词转化、搜索、信息获取、动机满足的信息闭环。

当然还有很多因素也会去影响这个闭环，如用户(历史行为，浏览偏好，性别、年龄等)、地域、天气，一个宏观、长周期的链路等。

根据搜索的过程，可以拆解用户的搜索流程如下：搜索入口-搜索触发-内容输入-点击搜索-反馈结果。我们从这个流程的各个环节上来看四大电商app(京东、天猫、手淘、拼多多)的搜索功能，进行对比分析。

电商搜索为例，以用户搜索过程中输入搜索词(点击“搜索“按钮到按下”回车“之间发生的事)的过程为切入点，结合产品及技术方案展开，结合相关搜索词功能进行论述；

从而形成分词：长尾词，属性词，精准大词，短词、单词、双词。

划分等级：搜索热度、点击率、频率、竞争度、时间段落。

搜索词自动索引推荐产生联想效应

关键词匹配/补全/联想/纠错的作用主要划分为：引导、纠错和高效。

通过统计再计算，用户在第一次查询中得到预期搜索结果的概率非常低，所以需要引导查询自动建议可以减少用户搜索的工作量，并通过数据挖掘(群体行为和智慧)来给出高频恰当的搜索建议，语料库的词匹配与联动效应，在不断的记录分词中构造出相对完整的词库。

搜索时使用了前缀匹配，但是手淘和天猫使用了拓展icon，可快速将推荐词黏贴至搜索框，京东使用了属性、标签、类目扩展 (除了对输入内容做联想，还会展示出与关键词相关的维度，自动补全关键词，增加用户的选择)，拼多多则相对搜索词产品探索较少。不过目的都是帮助用户快速锁定意图，并开展搜索。

用户在搜索框输入字符时，会在搜索框下面实时显示下拉提示词给用户，方便用户选择；可以帮助用户快速输入和优化搜索条件，且避免输入错误；在此基础上很多电商app也出现了筛选功能，在当前搜索建议词基础上进行扩展，进一步减少用户操作，一般在用户搜索的不够具体，会推荐该搜索词更细的分类。

淘宝的辅助多重筛选搜索，输入时展现的一系列联想内容，点击右边的一个拓展icon，就可以采用联想出的内容，在此基础上继续缩小范围筛选，从而帮助用户获得最接近需求的内容。

通过当前实时输入的词去匹配候选词，一般查询频度和同查询词的历史查询记录为重要参考依据。

在搜索词补全和联想数量上，淘宝为10条，拼多多为10条，京东/天猫超过10条，但是不能过多，过多的选择会给用户造成记忆负担，并且占据空间，有损用户体验，所以需要控制数量以便信息不会过载。

当然部分电商在历史的版本迭代中会尝试在搜索输入阶段进行纠错，比如输入联衣群，下拉框中自动纠正为连衣裙的一些选项，目前四个电商app均并无此功能，而是在搜索结果展示内做纠错及提醒；自动容错功能，将极大地提升用户体验，并提升用户的购买率。

语料库的建立实现：

可选择对接第三个已有的语料库开放平台（可减少开发时长）
自主构建语料库体系

前缀匹配原则，完整词未出现时一般使用补全/联想功能，品类引导词为主；当出现明显品类词后开始出现更细粒度属性及标签筛选词。一般从Query log中挖掘出大量候选Query，并且保证前缀相同，然后根据某种计算模型给候选Query 计算一个分数，最后按照分数选出TopK作为最终结果。

主要考虑因素:当前搜索词，用户(性别、年龄等特征)，日志中的群体。

常见搜索引擎均带有Suggestion功能，直接使用前缀匹配后的候选词(Trie树 + TopK算法,回溯算法遍历trie树)，使用用户搜索频度最高的TopK个搜索词,但是这样会使长尾词无法得到曝光机会。

05 AC联动算法

在用户进行搜索商品时，通过用户与搜索词信息进行意图预测，并辅之以类目、性别预测，前缀匹配后最终将某个性别和类目下的共现最高的TopK热搜词作为搜索框下拉框提示词。

复杂模型版1

复杂模型版，使用前缀匹配算法进行候选集召回(若召回量过少，考虑非前缀匹配结果)，并做简单截断；然后使用用户特征(性别、年龄、行为序列)、Context特征(季节、天气、温度、地理位置)进行、当前搜索词的Embedding Vector，然后候选搜索词也有一个Embedding Vector，三个Vector分别与候选Vector计算Cosine similarity，最终使用一个线性模型融合三个分数，最终的排序结果会进行语义去重再选择TopK(这里也可以用生成模型来做排序)。

这里可以将用户、Context均视为搜索词，就可以用日志数据构造Doc，最终使用Doc2vec或Word2vec。

通过语义、行为、Session log等挖掘出Query间相似分，并加入用户、搜索词、Context类特征及其交叉特征。多维度相似融合再排序: 按照点击相似度、文本相似度、Session相似度衡量Query之间的相似度，得到候选的Pair（可选）交给重排序模块，对Query pair的优先级做优化，生成Top K的改写结果。

query2query召回基于行为: item cf/swing、Simrank++基于session: Word2vec、Seq2seq基于内容: Query2vec(类似Word2vec，构建Query序列)query排序模型：LR/GBDT

样本: 用户日志，行为加权(展现:1，点击：5，购买：50)

特征: 搜索词的Pv/Ctr/Cvr，用户是否活跃，用户画像/特征，用户+候选词(查询词/浏览详情页与热搜候选词相似度)，Context特征(地理位置，温度，天气等)