双塔召回模型扩量负样本的方法
之前有一段时间做过双塔的召回模型[1]，线上各个指标有了不错的提升。目前双塔模型也是被各大公司钟爱的召回模型。
双塔模型在训练时是对一个batch内样本训练。一个batch内每个样本 (user和item对)为正样本，该user与batch内其它item为负样本。这样训练的方式可能有以下问题：1）负样本的个数不足。训练时负样本个数限制在了batch内样本数减1，而线上serving时需要在所有候选集中召回用户感兴趣的样本。模型只能从当前batch内区分出batch内正样本，无法很好地从所有候选集中区分正样本。2）未点击的item没有做负样本。由于batch内的item都是被点击过的，因此没有被点击item无法成为负样本，在线上serving容易它们被召回出来。一种解决方法是之前没被点击过的item不导出到候选集中，然而这样存在的问题是召回的item很多是之前点击的热门item，而很多冷门的item没有机会召回。
最近，有两篇文章提出了双塔模型扩量负样本的方法。这两种方法我也曾尝试过，线下线上指标也有一定的提升。
一、Two Tower Model
再介绍其它方法之前，先回顾一下经典的双塔模型建模过程。
用 s(x,y) 表示双塔模型计算的user x和item y的相似性： s(x,y) = <u(x,\theta),v(y,\theta)> 。 u 是表示user塔，输出user表示向量； v 是item，输出item表示向量。最后相似性是两个向量的余弦值。batch内概率计算公式为： p_B(y_i|x_i;\theta) = \frac{e^{s(x_i,y_i)}}{\sum_{j\in[B]}e^{s(x_i,y_j)}} ， B 表示一个batch的意思。损失函数是交叉熵。
作者在计算user和item的相似度时，用了两个优化方法：1） s(x,y) = <u(x,\theta),v(y,\theta)>/\tau 。 \tau 可以扩大相似度范围，扩大差距。2） s^c(x,y) = s(x,y)-log(p_y) 。 p_y 是item y 在随机样本中被采样的概率，也就是被点击的概率。关于优化2的解释有很多。论文中说热门item出现在batch内概率较大，因此会被大量做负样本。另一种解释是增加对冷门item的相似度。相比热门item，冷门item更能反映用户兴趣。
图1反映了双塔模型的batch采样过程。query也可以表示user。我们采样一个batch的user和对应正样本的item，计算各自的embedding后，通过点乘得到logits（B*B）的矩阵。label矩阵是一个单位矩阵。logit矩阵与label矩阵的每对行向量一起求交叉熵。
二、Mixed Negative Samping(MNS)
MNS[2]与双塔模型[1]出自谷歌团队的同一批作者。用一个batch数据训练时，MNS还会在所有的数据集中采样出 B' 个item。这样可以让所有的item参与到训练中，一些曝光未点击的item也会当作负样本。同时，双塔模型中使用的 p_y 等于训练样本中的频率加上所有数据集中的频率分布。概率公式重新定义如下：
p_B(y_i|x_i;\theta) = \frac{e^{<x_i,y_i>}}{e^{<x_i,y_i>}+\sum_{j\in[B+B'],j\ne i}w_{ji}} ， w_{ij} = e^{<x_i,y_j>-logp_j} 。
作者在这里只对负样本的相似性减去了频率的log值。
MNS的batch采样方法见图2。最终计算的logits和label矩阵是一个B*(B+B')维的。其实就是在图1展示的基础上再增加B'列。logits的最后B'列是user与B‘内的item计算的相似性，label的最后B'列是全0矩阵。
相比于每个样本都随机采样出一定量的负样本，为每个batch都采样出B‘个负样本的不仅有先前双塔模型的计算效率，也缓和负样本不足的问题，并且让每个样本均有机会做负样本。
聚圣源稻盛和夫六项精进梦见和名人一起吃饭爱我多深qvod扒饭店起名姓罗宝宝起名大全集汽车养护起名大全小儿起名字网站饭店房间用聚起名女孩起名字表示好的字自助起名网给姓彭的婴儿起名手机录音软件加强相声界行风建设神武战王养牛场怎么起好听的名字设计工作室怎么起名黑嘉嘉与柯洁结婚95539jimdo蚂蚁浏览器性彭的男孩起名每日星座运势服装厂起名大全集家俱 起名起名使用的字典西西里的美丽传说未删减版标准件公司起名大全集喇叭的拼音起名字排行榜起名字打分一百分淀粉肠小王子日销售额涨超10倍罗斯否认插足凯特王妃婚姻让美丽中国“从细节出发”清明节放假3天调休1天男孩疑遭霸凌 家长讨说法被踢出群国产伟哥去年销售近13亿网友建议重庆地铁不准乘客携带菜筐雅江山火三名扑火人员牺牲系谣言代拍被何赛飞拿着魔杖追着打月嫂回应掌掴婴儿是在赶虫子山西高速一大巴发生事故 已致13死高中生被打伤下体休学 邯郸通报李梦为奥运任务婉拒WNBA邀请19岁小伙救下5人后溺亡 多方发声王树国3次鞠躬告别西交大师生单亲妈妈陷入热恋 14岁儿子报警315晚会后胖东来又人满为患了倪萍分享减重40斤方法王楚钦登顶三项第一今日春分两大学生合买彩票中奖一人不认账张家界的山上“长”满了韩国人？周杰伦一审败诉网易房客欠租失踪 房东直发愁男子持台球杆殴打2名女店员被抓男子被猫抓伤后确诊“猫抓病”“重生之我在北大当嫡校长”槽头肉企业被曝光前生意红火男孩8年未见母亲被告知被遗忘恒大被罚41.75亿到底怎么缴网友洛杉矶偶遇贾玲杨倩无缘巴黎奥运张立群任西安交通大学校长黑马情侣提车了西双版纳热带植物园回应蜉蝣大爆发妈妈回应孩子在校撞护栏坠楼考生莫言也上北大硕士复试名单了韩国首次吊销离岗医生执照奥巴马现身唐宁街 黑色着装引猜测沈阳一轿车冲入人行道致3死2伤阿根廷将发行1万与2万面值的纸币外国人感慨凌晨的中国很安全男子被流浪猫绊倒 投喂者赔24万手机成瘾是影响睡眠质量重要因素春分“立蛋”成功率更高？胖东来员工每周单休无小长假“开封王婆”爆火：促成四五十对专家建议不必谈骨泥色变浙江一高校内汽车冲撞行人 多人受伤许家印被限制高消费