信息检索与推荐系统
信息检索与推荐系统近二十年的变化不应写成工具清单。真正被换掉的是评价标准:系统不再只凭单点分数、平均速度或“能运行”证明自己,而要说明在搜索、推荐、向量索引和检索增强系统持续在线学习的环境中,曝光选择、日志策略、反馈回路和供给侧响应怎样进入结果。上一个十年主要把旧默认拆成可测约束;这十年则经历真实部署与方法清算,要求同时报告召回、校准、长期满意度和生态分布。下面二十条均按主证据年份归幕,每条给出源行、六段证据链和可抽取的碰撞行。
第一幕把相关性从独立标签改成排序、隐式反馈、探索和反事实估计问题。 本幕八条共同把旧默认第一次放到可测上界、误差、资源或行为证据上,并试写出可与别的领域换算的分母。
甲、排序学习:检索目标是相对次序而非独立标签
在排序学习成型以前,检索被默认为一次分类或回归:给每篇文档判一个相关分,再按分排序。这个前提把每篇文档当成互相独立的样本,于是训练目标与真正被使用的东西——最终那份名次表——并不一致:把第一名和第二名判反,与把第九十名和第九十一名判反,在逐项误差里代价相同,在用户那里完全不同。这条转向要求损失函数直接对成对次序或整张列表的收益负责。
这条理论的可反驳命题是:训练损失应直接反映成对次序或NDCG等列表指标,因为单项误差与排序损失并不等价。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“正确相对次序对数/文档对总数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Chapelle 与 Chang,2011年《JMLR Workshop and Conference Proceedings》14:1–24。具体设计与读数是:挑战数据含约2.99万查询和70.98万文档,评价直接落在NDCG等列表指标;训练对象由单文档标签变成查询内相对次序。LambdaRank在2006年前后、LambdaMART在2010年前后把排序指标梯度化;公开学习排序数据集显示树模型长期成为强基线。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“离线日志由何种旧策略生成”。对照证据见Joachims 等,2007年《SIGIR会议录》,ACM:研究用结果交换与眼动观察分离位置偏差和相关性;同一文档只因从第二位换到第一位就会获得更多点击,点击率因此不能直接当真值。它显示短期点击提升可能损害长期留存;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告效果时必须写明用的是哪一种列表指标、截断在第几位,以及相关性标签从何而来。同一份系统在不同截断位上的排名可以完全颠倒,缺了这些参数,两组数字不在同一个分母上。相应地,模型选择的证据也应给出成对次序的正确率,而不仅是平均绝对误差之类的逐项读数。
与本块第十六条《整页决策》在同一条线上相隔一段:排序学习把独立判分改成了列表内部的相对次序,整页决策再往前一步,认为列表里的物品会互相替代、互补并改变用户的后续状态。两者的分母不同——前者数的是次序对,后者算的是整页的长期回报,因此一个在成对次序上更优的模型,未必在整页收益上更优。
乙、点击偏差:用户行为不是无偏相关性标签
点击长期被当作相关性的天然标签:用户点了就是相关,没点就是不相关,日志量大到足以淹没噪声。这个前提假定点击只由内容质量决定。实际上位置、呈现方式、品牌信任与用户何时停止浏览都在制造点击,排在第一位的结果天然获得更多点击,与它是否更相关无关。这条转向要求把这些生成机制显式建模,或者用受控随机化去估计每个位置被看到的概率。
这条理论的可反驳命题是:点击由位置、呈现、信任和停止行为共同产生,必须显式建模或用随机化估计倾向概率。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“去位置偏差后的点击率/原始点击率”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Joachims 等,2007年《SIGIR会议录》,ACM。具体设计与读数是:研究用结果交换与眼动观察分离位置偏差和相关性;同一文档只因从第二位换到第一位就会获得更多点击,点击率因此不能直接当真值。Joachims等在2007年前后通过换位实验量化位置偏差;同一文档仅因排序位置改变就出现显著点击差异。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“点击是否代表满意而非位置诱导”。对照证据见Swaminathan 与 Joachims,2015年《ICML会议录》,PMLR:经验风险以逆倾向权重校正,并加入方差控制;日志未覆盖的动作倾向概率为零时,反事实评价就没有可识别性。它显示公平曝光可能与相关性和供给质量冲突;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:用点击做评价时必须说明用了哪种偏差模型、倾向概率如何估计、随机化流量占多大比例。没有这些,「点击率提升」只是一个不知道在测什么的数。同时应报告去偏前后的读数差,这个差本身就是系统当前受位置效应影响程度的直接证据。
与本块第十四条《曝光去偏推荐》处理同一种病的不同环节:本条针对的是同一份列表内部的位置效应,第十四条针对的是推荐器决定谁根本没被展示。两者的校正对象不同,常被合称为「去偏」而混用——只做位置去偏的系统,仍然完全看不见那些从未获得曝光的物品。
丙、隐式反馈置信论:未消费不等于不喜欢
协同过滤早期把没有交互的格子直接当作负样本:用户没买、没看、没听,就记为不喜欢。这个前提在评分数据上还说得过去,在浏览与播放这类隐式数据上却站不住——绝大多数「没消费」只说明没被看到。这条转向把缺失重新解释为置信度问题:正反馈是带噪的观察,未观察项不是负例而是信息不足,行为强度与曝光机会决定我们对每一格该有多少把握。
这条理论的可反驳命题是:浏览、播放和购买只提供带噪正信号,缺失项应按曝光与行为强度赋予不同置信度。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“置信加权正反馈数/全部未观察交互数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Hu、Koren 与 Volinsky,2008年《ICDM会议录》,IEEE。具体设计与读数是:作者在约三十万用户和一万七千电视节目上把观看次数转成置信度权重;零记录被视为低置信未知而非明确负例。Hu、Koren与Volinsky于2008年提出隐式反馈加权矩阵分解;在电视观看数据上说明置信权重比把空白当负例更合理。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“向量召回是否遗漏稀有但关键内容”。对照证据见Koren、Bell 与 Volinsky,2009年《Computer》42(8):30–37:Netflix Prize公开数据含100,480,507条评分、480,189名用户和17,770部影片;低维因子用少量坐标重建这一巨大稀疏矩阵。它显示复杂模型可能只胜过未调优基线;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:说明未观察项在训练中被赋予了什么权重、依据是什么曝光估计。把全体未观察项一律当负例的模型,实际上在学习流行度而不是偏好。评估同样要交代负样本的采样方式——采样策略一换,同一模型的排名可以整体翻转,这一点在论文比较里长期未被写明。
与本块第十条《神经推荐基线清算》的关系是被清算者与清算者:正是负采样与切分口径这类未写明的选择,让大批「更优模型」在统一口径下失去优势。本条提供了那个最容易出问题的自由度,第十条提供了发现它的方法;两条分开读时,很容易把一次实验口径的差异误认成建模思想的胜负。
丁、潜因子推荐:偏好可以从稀疏共现中压缩出来
在潜因子方法之前,推荐的默认做法是找相似邻居:与你口味接近的人喜欢什么,就推给你什么。这个前提要求可观察的共同交互足够多,而真实数据里绝大多数用户与物品之间没有任何交集,邻居关系本身极其稀疏。这条转向把用户与物品同时压进一个低维空间,让偏好由向量关系解释,稀疏共现从障碍变成可以被压缩的信号,总体流行度则由单独的偏置项吸收。
这条理论的可反驳命题是:用户与物品可嵌入低维潜空间,交互由向量关系解释,并用偏置项吸收总体流行度。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“已观察交互数/潜因子参数数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Koren、Bell 与 Volinsky,2009年《Computer》42(8):30–37。具体设计与读数是:Netflix Prize公开数据含100,480,507条评分、480,189名用户和17,770部影片;低维因子用少量坐标重建这一巨大稀疏矩阵。Netflix Prize在2006—2009年推动矩阵分解,Koren等2009年的总结显示潜因子模型显著降低评分预测误差,但潜因子未必可解释。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“公平目标针对谁以及分母如何定义”。对照证据见Hidasi 等,2016年《ICLR会议录》:GRU4Rec使用Yoochoose日志的数百万会话和数千万点击,把会话内次序直接作为状态;最后一次点击不再被当成独立偏好点。它显示去偏估计会有高方差与支持集缺口;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告模型规模时要给出已观察交互数与参数数的比值。这个比值决定了结论是学出来的还是记住的,而它长期被隐藏在「维度设为若干」这类描述里。同时应说明偏置项如何设置——把流行度混进潜因子的模型,在长尾上的表现会被整体指标掩盖。
与本块第十一条《序列推荐》的分歧在于时间:潜因子把一个人的偏好当作一个稳定向量,序列推荐认为最近几步本身携带意图。两者在同一份日志上都能拟合得不错,但对同一个用户的解释完全不同——一个说他一直喜欢这类,另一个说他此刻正在找这类。系统设计时若不明确采信哪一种,评估指标会在两种解释之间来回摇摆。
戊、多样化检索:最相关的十个近重复结果不是最好列表
相关性排序的默认目标曾是逐项最优:把最相关的十篇挑出来,列表质量等于各项质量之和。这个前提忽略了同一个查询往往对应多种意图,也忽略了用户读完第一条之后,第二条的价值已经被改变。十个近重复结果每一条都很相关,合起来却几乎不提供新信息。这条转向把列表当作整体来优化,冗余要被惩罚,不同意图要被覆盖,相关性与新颖性构成一对可测的权衡。
这条理论的可反驳命题是:列表优化必须惩罚冗余并覆盖不同意图,相关性与新颖性形成可测权衡。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“独特子主题覆盖数/返回结果数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Agrawal 等,2009年《WSDM会议录》,ACM。具体设计与读数是:方法把查询的潜在意图与结果覆盖联合优化;TREC式评价通常以约五十个主题检查列表是否覆盖多个意图,而非只数前十项的平均相关性。MMR之后,xQuAD于2010年前后显式建模子意图覆盖;TREC多样化任务显示多意图查询上覆盖指标可改善。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“创作者调整供给后模型效应是否反转”。对照证据见Singh 与 Joachims,2018年《KDD会议录》,ACM:方法把位置注意力写成曝光向量,并用线性约束使群体所得曝光与其效用对齐;公平判据落在列表上,而不是逐物品预测误差。它显示检索增强答案可在错误证据上碰巧正确;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告多样性时要给出子主题的划分依据与覆盖读数,而不是只说结果「更丰富」。子主题从何而来决定了这个数是否可比。同时应同时报告相关性损失——多样化必然要让出一些位置,隐去这项代价的报告无法用于线上决策。
与本块第二十条《供给侧响应》在时间尺度上互补:多样化改变的是这一次列表内部的分配,供给侧响应关心的是这种分配持续数月后创作者会怎么调整选题。短期看,多样化让位给了新颖内容;长期看,若曝光规则不稳定,创作者会转而追逐规则本身,多样性反而收窄。
己、上下文老虎机:推荐系统必须为学习付出探索成本
线上推荐系统长期以纯利用的方式运行:用当前模型认为最好的结果去服务每一次请求,学习则依赖日志的自然积累。这个前提假设日志会自己覆盖足够多的可能性,而实际上系统只会不断收到自己已经选择过的那些选项的反馈,从未展示过的东西永远拿不到数据。这条转向承认学习需要主动付费——用一部分展示做随机化探索,换取可识别的反馈。
这条理论的可反驳命题是:在线系统需在利用与探索间权衡,用随机化收集可识别的反馈。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“探索展示数/总展示数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Li 等,2010年《WWW会议录》:661–670,页661–670。具体设计与读数是:离线回放使用Yahoo新闻约三千三百万条随机展示事件;只有新策略选择了日志中实际展示的文章时才记一笔无偏回报。Li等于2010年在新闻推荐中评估LinUCB,并用日志回放估计策略;结果显示适度探索可提高长期点击,但离线回放依赖随机日志覆盖。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“离线日志由何种旧策略生成”。对照证据见Chaney、Stewart 与 Engelhardt,2018年《RecSys会议录》,ACM:模拟让推荐结果反过来生成下一轮训练数据;多轮后用户消费趋同、覆盖收缩,系统却把被自己制造的行为当作偏好证据。它显示短期点击提升可能损害长期留存;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:公开探索预算,即随机化展示占总展示的比例,以及探索策略如何分配。没有这个数,任何离线估计都无法判断可信区间。同时应说明探索造成的短期指标损失,把这笔成本明写出来——它是后续所有反事实评估能够成立的前提,也是最容易在季度考核压力下被悄悄砍掉的一项。
与本块第七条《反事实排序学习》是投入与回报的两端:探索花掉的展示,正是反事实评估赖以成立的支持集。两条必须放在一起做预算——探索比例一旦被压到接近零,日志对新策略的覆盖就会塌陷,反事实估计的方差随之爆炸,此时再精巧的估计量也救不回来。
庚、反事实排序学习:历史日志只能评价它覆盖过的策略
用历史日志评估新策略曾被默认为免费的:日志里有那么多真实用户反馈,拿来重放一下就能估出新模型的表现。这个前提忽略了日志是旧策略的产物——它只记录了旧策略选择展示的那些内容的反馈,新策略想展示而旧策略从未展示过的部分,日志里根本没有数据。这条转向要求用倾向加权或反事实风险最小化,把旧策略造成的曝光概率显式除掉,并承认日志只能评价它覆盖过的动作。
这条理论的可反驳命题是:应以倾向加权或反事实风险最小化,校正旧策略决定的曝光概率。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“日志支持的目标动作数/目标策略动作总数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Swaminathan 与 Joachims,2015年《ICML会议录》,PMLR。具体设计与读数是:经验风险以逆倾向权重校正,并加入方差控制;日志未覆盖的动作倾向概率为零时,反事实评价就没有可识别性。Swaminathan与Joachims在2015年提出反事实风险最小化,随后用于学习排序;极小倾向权重会导致高方差,需裁剪与自归一化。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“点击是否代表满意而非位置诱导”。对照证据见Schnabel 等,2016年《ICML会议录》,PMLR:论文利用随机曝光数据估计倾向概率,再对观察评分加权;同一算法在未校正和校正评价中的排序会发生变化。它显示公平曝光可能与相关性和供给质量冲突;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告日志对目标策略的支持度,即有多少目标动作在日志中确有覆盖,以及权重的方差与截断方式。倾向权重一旦出现极端值,估计量的方差会主导结果,而这一点在只报告点估计的表格里完全看不出来。评审也应要求给出估计的置信区间,而非单个数字。
与本块第十八条《离线—在线裂缝》是同一条防线的两层:反事实估计尽力从日志里榨出可信的判断,第十八条则提醒即便估计做得规范,仍有一整类效应——用户长期行为、供给侧调整、界面交互——不在日志的因果范围之内。把反事实估计当成在线实验的替代品,是这条线上最常见的越界。
辛、深层语义匹配:词面不重合也可以被检索
检索长期建立在词面重合之上:文档与查询共享的词越多、越罕见,相关性越高。这个前提让整套系统对同义、改写与跨语言表达失效——用户换一个说法,同一篇文档就检索不到。这条转向把查询与文档映射进同一个向量空间,用几何接近表达语义相关,词面第一次不再是必要条件。代价是相关性从可解释的词项匹配,变成了一个需要另行验证的学到的度量。
这条理论的可反驳命题是:可学习把查询和文档映射到同一向量空间,用几何接近表达语义相关性。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“语义匹配命中数/词面不重合查询数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Huang 等,2013年《CIKM会议录》,ACM。具体设计与读数是:DSSM在约一亿条点击查询—文档对上训练低维语义向量;词面零重合的查询和标题也可因向量接近进入候选集。DSSM于2013年在大规模点击数据上训练查询—文档表示,改善词汇错配;但早期稠密表示仍常输给强稀疏基线。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“向量召回是否遗漏稀有但关键内容”。对照证据见Malkov 与 Yashunin,2016年预印本;正式版2020年《IEEE TPAMI》42(4):824–836:HNSW在SIFT1M、GIST1M等百万规模向量集上用分层小世界图实现高召回低延迟;搜索代价不再随库大小线性增长。它显示复杂模型可能只胜过未调优基线;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告语义检索的收益时,必须分开统计词面重合与不重合的两类查询。整体指标会把收益平均掉——真正的增量发生在词面不重合那一部分,而风险也集中在那里。同时应给出失败样例:语义空间里靠得近而实际不相关的结果,是这条路线特有的错误类型,不列出来就无法评估风险。
与本块第十三条《稠密段落检索》是同一思路在不同阶段的落地,与第十二条《交叉编码重排》则形成分工:向量空间负责在大规模上把候选找回来,深度交互负责在小候选集上判细粒度相关。三条一起才构成完整的检索链,而链条的整体质量由最弱的一环决定——召回阶段漏掉的内容,再强的重排也补不回来。
第二幕清算离线基准,并把评价对象扩大到曝光、公平、反馈回路、检索链和供给生态。 本幕十二条更关注部署、公开清算与方法自审,尤其要求把平均分数换成分布、边界、长期读数和责任链。
一、分层近邻图:向量检索可以在十亿级保持低延迟
在近邻图方法之前,大规模向量检索的默认路线是分区与量化:把空间切块、把向量压缩,用牺牲精度换取速度。这个前提把召回率与延迟当成一对只能取舍的固定关系。分层近邻图改写了这条曲线——用多层小世界结构做局部贪心搜索,可以在内存占用、构建时间、召回与延迟之间连续调节,十亿量级下仍保持低延迟。检索基础设施的可行边界因此被整体推开。
这条理论的可反驳命题是:多层小世界图可用局部贪心搜索逼近近邻,在内存、构建时间、召回和延迟间连续调节。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“每秒检索向量数/索引内存GB”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Malkov 与 Yashunin,2016年预印本;正式版2020年《IEEE TPAMI》42(4):824–836。具体设计与读数是:HNSW在SIFT1M、GIST1M等百万规模向量集上用分层小世界图实现高召回低延迟;搜索代价不再随库大小线性增长。Malkov与Yashunin于2016年提出HNSW;后续向量数据库实验显示其在高召回区常优于传统树与哈希,但内存占用较高。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“公平目标针对谁以及分母如何定义”。对照证据见Karpukhin 等,2020年《EMNLP会议录》:6769–6781,页6769–6781:DPR在约二千一百万个Wikipedia段落上训练双编码器,Natural Questions的前二十召回接近八成;第一阶段召回由词项匹配转成表示学习。它显示去偏估计会有高方差与支持集缺口;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:任何向量索引的性能声明都必须同时给出召回率、延迟分位与内存占用三项,缺一项就不可比。只报每秒查询数的对比是无意义的——把召回降低几个点,吞吐可以轻易翻倍。同时应说明构建时间与增量更新代价,这两项在离线评测里常被忽略,却是线上能否使用的决定因素。
与本块第十三条《稠密段落检索》是设施与应用的关系,与第十二条《交叉编码重排》则共同决定了整条链的形状:索引越快,可以送进重排的候选就越多;重排越贵,可承受的候选数就越少。系统的实际质量落在这两者的乘积上,而论文常常只优化其中一端并把另一端固定,因此排名在换一套预算后经常反转。
二、神经推荐基线清算:复杂模型未必胜过调好的旧方法
推荐研究的默认叙事曾是逐年递进:新模型比去年的模型好,进步以论文中的增益百分比累积。这个前提要求实验口径可比。清算发现的是另一回事——数据切分、负采样、调参预算与基线选择的差异,足以制造出与建模思想无关的增益,而许多被广泛引用的神经模型,在统一口径和认真调过的传统基线面前失去了优势。这条转向把实验口径本身列为研究结论的一部分。
这条理论的可反驳命题是:必须统一数据切分、负采样、调参预算和强基线,否则增益可能来自实验口径。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“神经模型增益/强传统基线增益”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Dacrema、Cremonesi 与 Jannach,2019年《RecSys会议录》,ACM。具体设计与读数是:团队检查十八种近期神经推荐方法,只有七种能在合理工作量下复现;多项论文优势在强传统基线和完整调参后消失。Dacrema等2019年复现多种神经协同过滤模型,发现相当部分不能稳定超过经典基线;由此把可复现比较推到推荐方法学中心。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“创作者调整供给后模型效应是否反转”。对照证据见Gilotte、Calauzènes、Nedelec、Abraham与Dollé,2018年《WSDM会议录》:198–206,页198–206:作者把多种反事实估计量与商业系统真实在线A/B收益对照;常见截断与归一化重要性采样出现明显偏差—方差冲突,离线排序不能直接替代上线判断。它显示检索增强答案可在错误证据上碰巧正确;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:交出数据切分脚本、负采样方式、超参搜索预算,并且必须给出对基线投入的调参预算。只声明「与基线比较」而不写投入,等于让读者相信作者在两侧同样努力。审稿标准也应随之改变:可复现的实验配置优先于新颖的模型结构,因为前者决定后者是否可被验证。
与本块第十八条《离线—在线裂缝》指向同一处失望的两个来源:本条说的是离线比较本身可能不成立,第十八条说的是即便离线比较成立,也未必迁移到线上。两者叠加解释了业界的普遍经验——论文上的增益到了生产系统里往往消失,而消失的原因在这两条里各占一半。
三、序列推荐:最近行为不是静态偏好的噪声
把一个人的偏好写成一个稳定向量,是推荐系统最省事的默认:口味被当成属性,最近几步的波动被当成噪声,模型的任务是从历史里估出那个不变的核。这个前提对长期兴趣或许成立,对一次具体的会话却明显不对——用户此刻在找的东西,往往与他半年来的平均口味无关。这条转向把时间顺序本身当作信号,预测的对象从平均偏好改成下一步。
这条理论的可反驳命题是:推荐应建模兴趣迁移、短期意图和会话上下文,预测下一步而非平均偏好。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“下一项命中数/序列会话总数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Hidasi 等,2016年《ICLR会议录》。具体设计与读数是:GRU4Rec使用Yoochoose日志的数百万会话和数千万点击,把会话内次序直接作为状态;最后一次点击不再被当成独立偏好点。SASRec于2018年用自注意力建模行为序列,BERT4Rec于2019年引入双向掩码训练;二者在多项下一物品基准上形成新强基线。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“离线日志由何种旧策略生成”。对照证据见Hu、Koren 与 Volinsky,2008年《ICDM会议录》,IEEE:作者在约三十万用户和一万七千电视节目上把观看次数转成置信度权重;零记录被视为低置信未知而非明确负例。它显示短期点击提升可能损害长期留存;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:说明会话如何切分、序列长度如何截断,以及评估是按下一项命中还是按整段会话计。这几项都会显著改变读数,而它们在论文里常常只字未提。同时应报告冷启动会话与长会话的分别表现——序列模型的收益高度集中在有足够上下文的那一部分,整体平均会把这个结构抹平。
与本块第四条《潜因子推荐》给出两种互斥的解释,与第八条《整页决策》则共享同一个方向:都承认用户状态会被系统的每一次展示改变。差别在于时间尺度——序列推荐建模的是跨会话的兴趣迁移,整页决策处理的是一页之内的相互影响。两者若用同一套离线指标评估,会把不同尺度的效应记在同一笔账上。
四、交叉编码重排:精确相关性需要查询与文档深度交互
早期检索把召回与排序当成同一件事的两个强度:用同一套匹配函数,先粗后细。这个前提在词面匹配时代还能自洽,因为粗细只是阈值差别。当相关性判断需要查询与文档之间深度交互时,这种模型在整个语料上跑一遍的代价无法承受。这条转向把两件事明确分工——双塔结构负责在大规模上把候选找回来,交叉编码器只在小候选集上建模细粒度交互,检索系统由此变成一条有预算分配的流水线。
这条理论的可反驳命题是:召回与重排应分工:双塔负责规模,交叉编码器在小候选集上建模细粒度交互。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“重排候选数/首阶段召回候选数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。它改写的不是工具名称,而是什么比较才算同一个问题。
主证据来自Nogueira 与 Cho,2019年《Passage Re-ranking with BERT》预印本。具体设计与读数是:在含约880万段落的MS MARCO上,交叉编码器让查询与候选段落逐词交互,MRR@10由传统强基线的约0.27提升到约0.36。Nogueira与Cho在2019年前后用BERT重排显著提升MS MARCO指标;代价是无法对全库逐文档运行。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“点击是否代表满意而非位置诱导”。对照证据见Karpukhin 等,2020年《EMNLP会议录》:6769–6781,页6769–6781:DPR在约二千一百万个Wikipedia段落上训练双编码器,Natural Questions的前二十召回接近八成;第一阶段召回由词项匹配转成表示学习。它显示公平曝光可能与相关性和供给质量冲突;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告重排效果时必须给出候选集规模与首阶段召回率。同一个重排器在一百个候选与一千个候选上的收益完全不同,而上限由第一阶段决定:首阶段没召回的文档,重排永远救不回来。延迟预算与算力成本也应一并报告,因为这条路线的收益本质上是用计算换精度。
与本块第九条《分层近邻图》构成一对预算约束:索引越快,可送进重排的候选越多;重排越贵,可承受的候选数越少。整条链的质量落在两者的乘积上。因此单独比较重排模型的排名意义有限——换一套延迟预算,原本落后的方案可能因为能吞下更多候选而反超。
五、稠密段落检索:端到端训练可重写第一阶段召回
第一阶段召回长期被默认为不可学习的部分:倒排索引与词频权重是稳定的基础设施,机器学习只在重排阶段发挥作用。这个前提把整个检索链最上游的瓶颈固定住了——上游漏掉的东西,下游再聪明也补不回来。这条转向用问答监督直接训练查询与段落的双编码器,让第一阶段本身成为学出来的组件,召回由词面匹配改为向量近邻。
这条理论的可反驳命题是:双编码器可用问答监督训练查询与段落向量,并通过近似近邻完成大规模召回。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“相关段落召回数/全部相关段落数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Karpukhin 等,2020年《EMNLP会议录》:6769–6781,页6769–6781。具体设计与读数是:DPR在约二千一百万个Wikipedia段落上训练双编码器,Natural Questions的前二十召回接近八成;第一阶段召回由词项匹配转成表示学习。DPR于2020年在开放域问答中提高Top-k段落召回;BEIR后来显示其跨领域迁移并不稳定,稀疏—稠密混合常更稳。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“向量召回是否遗漏稀有但关键内容”。对照证据见Saad-Falcon、Khattab、Potts 与 Zaharia,2024年《NAACL长文会议录》:338–354,页338–354:ARES在八个知识密集任务上分别测上下文相关、答案忠实和答案相关,并用数百条人工标注校准判断器;总答案正确率不能替代链路诊断。它显示复杂模型可能只胜过未调优基线;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告召回率时必须说明「全部相关段落」如何确定,因为这一分母通常由标注覆盖决定,标注没找到的相关段落会同时从分子分母中消失。同时应给出在稀有实体与专有名词上的分别读数——这类查询正是稠密检索相对词面匹配最容易退化的地方,也是生产事故最常发生的地带。
与本块第八条《深层语义匹配》同源而位置不同,与第十九条《检索增强评估》则是上下游:稠密召回的漏检会在生成阶段变成看似流畅的错误答案,而答案的正确率并不能反证检索链正确。两条一起读才能定位错误——只看最终答案的评测,会把召回阶段的系统性缺口误判为生成模型的幻觉。
六、曝光去偏推荐:观察到的互动是策略选择后的样本
从日志里学习推荐模型的默认假设是:观察到的互动是用户偏好的样本。这个前提忽略了一个明显的事实——被观察到的互动,首先是推荐器选择展示的结果。用户没有点击某物,可能是因为不喜欢,更可能是因为它从未出现在屏幕上。这条转向把曝光机制本身作为需要估计的对象,缺失不再被当作随机,而是被当作由策略决定的、系统性的缺失。
这条理论的可反驳命题是:推荐器决定谁被看见,因此需要估计曝光机制、选择偏差和缺失非随机性。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“逆倾向加权有效样本数/原始日志样本数”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Schnabel 等,2016年《ICML会议录》,PMLR。具体设计与读数是:论文利用随机曝光数据估计倾向概率,再对观察评分加权;同一算法在未校正和校正评价中的排序会发生变化。Schnabel等2016年用倾向评分评估推荐,Saito等2020年前后扩展无偏学习;倾向估计错误会把偏差换成方差。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“公平目标针对谁以及分母如何定义”。对照证据见Gilotte、Calauzènes、Nedelec、Abraham与Dollé,2018年《WSDM会议录》:198–206,页198–206:作者把多种反事实估计量与商业系统真实在线A/B收益对照;常见截断与归一化重要性采样出现明显偏差—方差冲突,离线排序不能直接替代上线判断。它显示去偏估计会有高方差与支持集缺口;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告有效样本量而不是原始日志量。逆倾向加权之后,一份上亿条的日志可能只剩很小的有效规模,这个数字决定了结论的可靠程度,却几乎从不出现在系统报告里。同时应说明倾向估计的来源——用另一个模型估计出来的倾向,会把那个模型的偏差一并带进校正。
与本块第二条《点击偏差》处理同一族问题的不同环节,与第十七条《算法混淆》则构成因果链的两段:曝光偏差解释了数据为何有偏,算法混淆解释了这种偏在闭环中如何自我放大。只做曝光去偏而不看闭环,系统会在每一轮都校正得很规范,却仍然一路收窄到少数流行内容。
七、公平曝光:公平对象是注意力分配而非只看准确率
推荐系统的公平讨论最初沿用分类问题的框架:比较不同群体的预测准确率或错误率。这个前提把推荐当成一次次独立判断。而排序的本质是分配一种稀缺资源——注意力,位置一旦确定,第一名与第十名获得的曝光相差数量级,即便两者的预测分只差千分之一。这条转向把公平的对象从准确率改成曝光分配,问的是各方获得的注意力与其相关性或机会是否相称。
这条理论的可反驳命题是:排序位置产生稀缺曝光,应比较群体、提供者或物品获得的注意力与其相关性或机会。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“受保护群体曝光份额/应得相关性份额”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Singh 与 Joachims,2018年《KDD会议录》,ACM。具体设计与读数是:方法把位置注意力写成曝光向量,并用线性约束使群体所得曝光与其效用对齐;公平判据落在列表上,而不是逐物品预测误差。Singh与Joachims于2018年提出公平曝光约束;后续研究显示提高提供者公平可能牺牲短期点击,公平基准取决于规范选择。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“创作者调整供给后模型效应是否反转”。对照证据见Ie 等,2019年《IJCAI会议录》中的SlateQ工作:SlateQ把一次推荐的k个项目视为联合动作,并把用户从整页中选择某一项的概率纳入价值分解;逐项最高分不再保证整页最优。它显示检索增强答案可在错误证据上碰巧正确;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:交出曝光份额与应得份额的对照,并写明「应得」依据什么定义。不同定义会得出相反结论,因此定义本身必须公开接受争论,而不能藏在指标里。同时应说明公平约束造成的相关性损失,以及这份损失由谁承担——是用户体验,还是头部提供者的份额。
与本块第二十条《供给侧响应》共同构成平台的另一侧账本:公平曝光处理的是此刻的分配,供给侧响应处理的是分配规则长期作用后的创作行为。两条也可能冲突——为短期公平做的曝光倾斜,若被创作者识别为可套利的规则,长期会引来针对规则的供给而非更好的内容。
八、整页决策:逐物品最优不等于列表长期最优
列表长期被当作逐项排序的产物:把每个物品的价值算出来,从高到低排下去。这个前提假定物品的价值互相独立,而实际上一页之内的物品会互相替代与互补,用户看完前几条之后的状态也已改变,后面的价值随之变化。这条转向把决策单位从单个物品提升到整页,并把目标从这一次的点击改成整段交互的长期价值。
这条理论的可反驳命题是:列表中物品相互替代、互补并改变后续状态,策略应直接优化整页与长期价值。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“页面长期回报/单项点击回报”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Ie 等,2019年《IJCAI会议录》中的SlateQ工作。具体设计与读数是:SlateQ把一次推荐的k个项目视为联合动作,并把用户从整页中选择某一项的概率纳入价值分解;逐项最高分不再保证整页最优。SlateQ于2019年前后把组合列表价值分解为可学习结构;实际部署仍受动作空间巨大和反事实评估困难限制。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“离线日志由何种旧策略生成”。对照证据见Abdollahpouri、Adomavicius、Burke、Guy、Jannach等,2020年《用户建模与用户自适应交互》30(1):127–158:框架把消费者、提供者、平台及其他利益相关者的效用分开建模,并指出单一用户点击最优可能压低供给覆盖或生态长期价值;推荐评价单位因此从用户—物品对扩到多方系统。它显示短期点击提升可能损害长期留存;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告收益时要区分单次点击回报与页面级、会话级的长期回报,并说明折扣与时间窗如何设定。缺了时间窗,「长期价值」只是一个说法。同时应交代整页优化带来的组合空间是如何被约束的——真实系统不可能穷举整页,采用了哪种分解,就承担了哪种独立性假设。
与本块第一条《排序学习》相隔一整段路:从逐项判分到成对次序,再到整页与长期价值,每一步都在放宽独立性假设,每一步也都在换更贵的评估方式。三者的读数不可互换——在成对次序上更优的模型,未必在整页长期回报上更优,而后者恰恰是产品真正要的那个数。
九、算法混淆:推荐反馈会制造它随后‘发现’的偏好
推荐系统的评估长期把用户偏好当成外生的、等待被发现的东西:模型越准,越接近那个本来就存在的偏好。这个前提在闭环系统里不成立——推荐决定了用户看见什么,看见什么又决定了后续行为,于是系统随后「发现」的偏好里,有一部分正是它自己制造的。这条转向要求把策略效应与用户偏好分开计量,并承认闭环会放大流行度、削弱可识别性。
这条理论的可反驳命题是:推荐改变曝光和选择,闭环会放大流行度、降低可识别性并把策略效应误当用户偏好。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“策略变更后偏好变化量/变更前偏好基线”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Chaney、Stewart 与 Engelhardt,2018年《RecSys会议录》,ACM。具体设计与读数是:模拟让推荐结果反过来生成下一轮训练数据;多轮后用户消费趋同、覆盖收缩,系统却把被自己制造的行为当作偏好证据。Chaney、Stewart与Engelhardt于2018年模拟算法混淆,显示迭代推荐可降低用户偏好估计质量并提高同质化。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“点击是否代表满意而非位置诱导”。对照证据见Abdollahpouri、Adomavicius、Burke、Guy、Jannach等,2020年《用户建模与用户自适应交互》30(1):127–158:框架把消费者、提供者、平台及其他利益相关者的效用分开建模,并指出单一用户点击最优可能压低供给覆盖或生态长期价值;推荐评价单位因此从用户—物品对扩到多方系统。它显示公平曝光可能与相关性和供给质量冲突;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:在报告偏好变化时,必须说明这段时间内推荐策略是否发生过变更,以及变更如何被控制。把策略切换期的行为变化直接读成偏好漂移,是这类系统里最常见的因果错置。稳妥的做法是保留一小部分不受当前策略影响的对照流量,作为长期基线——这项成本应当明列,而不是在指标压力下被取消。
与本块第十四条《曝光去偏推荐》是同一因果链的前后段,与第二十条《供给侧响应》则一起构成完整的闭环:系统影响用户,用户行为影响模型,模型影响创作者,创作者又改变可选内容。三条分开处理时,每一环看起来都被校正过,合起来的漂移却无人负责。
十、离线—在线裂缝:指标提升不能替代因果实验
在线系统的迭代长期依赖离线指标:在历史数据上算出提升,就认为可以上线。这个前提假定历史分布覆盖了新策略将会遇到的情形,也假定离线指标与线上目标同向。两条假设都经常失效——离线提升与线上核心指标之间的相关性,在很多真实系统里弱到不足以支持决策。这条转向要求把在线随机实验或可信的反事实估计作为部署前的必经关口,而不是可选的确认步骤。
这条理论的可反驳命题是:离线指标只覆盖历史分布,部署决策必须用在线随机实验或可信反事实估计验证。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“离线指标提升幅度/在线核心指标提升幅度”。若同等预算下不优于强基线,或换数据、平台与人群便失效,命题只能收窄。
主证据来自Gilotte、Calauzènes、Nedelec、Abraham与Dollé,2018年《WSDM会议录》:198–206,页198–206。具体设计与读数是:作者把多种反事实估计量与商业系统真实在线A/B收益对照;常见截断与归一化重要性采样出现明显偏差—方差冲突,离线排序不能直接替代上线判断。2016年后多家工业团队报告离线与A/B结果相关性有限;指标选择、延迟反馈与生态响应都可导致方向相反。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“向量召回是否遗漏稀有但关键内容”。对照证据见Chapelle 与 Chang,2011年《JMLR Workshop and Conference Proceedings》14:1–24:挑战数据含约2.99万查询和70.98万文档,评价直接落在NDCG等列表指标;训练对象由单文档标签变成查询内相对次序。它显示复杂模型可能只胜过未调优基线;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:公开离线提升与在线提升的对照记录,包括那些离线看好、线上没通过的实验。只发布成功案例,会让整个组织对离线指标的信任维持在虚高水平。同时应说明实验的最小可检测效应与运行周期,因为多数看似矛盾的结论只是功效不足的产物。
与本块第七条《反事实排序学习》是同一道防线的两层,与第十条《神经推荐基线清算》则解释了同一个现象的两半:论文增益到生产就消失,一半因为离线比较本身口径不齐,一半因为离线到在线的迁移不成立。两条一起看,可以判断某次失败该往哪个方向查。
十一、检索增强评估:答案正确不能说明检索链正确
检索增强系统最初按最终答案是否正确来评估:答对了就算这条链工作正常。这个前提把语料覆盖、召回、证据归属、上下文利用与生成揉成一个数。而这条链可以在任何一段出错却仍然答对——模型凭参数里的记忆答对了检索失败的问题,看起来是成功,实际上检索环节根本没有起作用。这条转向要求逐段评估,并检查错误究竟在哪一段产生。
这条理论的可反驳命题是:应拆分语料覆盖、召回、证据归属、上下文利用和最终答案,并检查错误在哪一段产生。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“可由检索证据逐句支持的答案句数/答案总句数”。
主证据来自Saad-Falcon、Khattab、Potts 与 Zaharia,2024年《NAACL长文会议录》:338–354,页338–354。具体设计与读数是:ARES在八个知识密集任务上分别测上下文相关、答案忠实和答案相关,并用数百条人工标注校准判断器;总答案正确率不能替代链路诊断。KILT于2020年把知识密集任务与证据页面统一评估,BEIR于2021年检验跨域检索;结果显示同一最终分数可隐藏完全不同的召回失败。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“公平目标针对谁以及分母如何定义”。对照证据见Es、James、Espinosa Anke与Schockaert,2024年《EACL系统演示会议录》:150–158,页150–158:RAGAS把答案忠实度、答案相关性、上下文精确率和上下文召回率拆开计算;端到端答对不再能掩盖检索片段错误或生成器脱离证据作答。它显示去偏估计会有高方差与支持集缺口;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告答案中有多少句可由检索到的证据逐句支持,而不是只报答案准确率。同时要给出反面的读数——检索失败但答案正确的比例,以及检索成功但未被使用的比例。这两个数一旦公开,很多「检索增强带来提升」的结论会需要重新解释。
与本块第十三条《稠密段落检索》是上下游关系,与第十条《神经推荐基线清算》共享同一种警觉:把系统当作黑箱来评估时,最容易得到的是无法归因的进步。逐段拆开之后,改进的方向才有落点——补语料、改召回、还是改生成,是三件成本完全不同的事。
十二、供给侧响应:推荐系统也在训练创作者
推荐系统长期只被当作需求侧的机器:把已有内容匹配给用户,内容本身是外生给定的。这个前提在内容池由专业机构生产的年代大致成立。当平台上的内容主要由创作者根据曝光反馈生产时,它就失效了——曝光规则实际上在训练创作者,决定他们选什么题、投入多少、什么时候退出。这条转向要求把系统目标从匹配效率扩展到长期内容生态。
这条理论的可反驳命题是:曝光规则会改变创作者选题、质量投入与退出,系统目标应纳入长期内容生态。比较必须固定候选集、展示位置、日志策略与用户时间窗口,只改变排序损失、探索、去偏估计或列表策略,并以召回、校准、长期满意度和生态分布为共同结果;量纲写成“新创作者获得的可见曝光/总曝光”。
主证据来自Abdollahpouri、Adomavicius、Burke、Guy、Jannach等,2020年《用户建模与用户自适应交互》30(1):127–158。具体设计与读数是:框架把消费者、提供者、平台及其他利益相关者的效用分开建模,并指出单一用户点击最优可能压低供给覆盖或生态长期价值;推荐评价单位因此从用户—物品对扩到多方系统。2020年前后多利益相关者推荐与生态模型开始同时建模用户、平台和提供者;短期互动最大化可能造成供给集中与多样性下降。这笔证据把曝光选择、日志策略、反馈回路和供给侧响应从背景变量改成可复算的中间量,并留下样本、版本、阈值或预算检查点。主证据年份决定幕归属;核验应以篇名反查作者、卷页或DOI以及这里采用的读数。
争议集中在“创作者调整供给后模型效应是否反转”。对照证据见Agrawal 等,2009年《WSDM会议录》,ACM:方法把查询的潜在意图与结果覆盖联合优化;TREC式评价通常以约五十个主题检查列表是否覆盖多个意图,而非只数前十项的平均相关性。它显示检索增强答案可在错误证据上碰巧正确;换任务、分母或组织流程后,成本可能转移到未记录处。争论要收敛,须预注册口径、公开负结果并由独立站点重做,同时报告均值、尾部、失败类型与维护成本。
它改变的最低交付责任是:报告新创作者获得的可见曝光比例与创作者留存,而不是只报用户侧的点击与时长。一个用户侧指标持续上行、供给侧持续枯竭的系统,其衰退在需求侧指标上要很久才会显现。同时应说明规则变更的公示方式——不可预测的规则会让创作者转向短期套利,这是生态收窄最常见的起点。
与本块第十五条《公平曝光》共同处理注意力的分配,但时间尺度不同:公平曝光是这一次分配是否相称,本条是分配规则长期作用后还剩下什么可分。与第十七条《算法混淆》则合成完整闭环——系统塑造用户,也塑造创作者,两侧的反馈会在同一套指标上互相掩盖。
◎ 二十年连起来看
第一幕把相关性从独立标签改成排序、隐式反馈、探索和反事实估计问题。 第二幕清算离线基准,并把评价对象扩大到曝光、公平、反馈回路、检索链和供给生态。 两幕不是工具换代,而是评价单位不断扩大:第一幕找出局部上界、误差、约束或行为机制,第二幕把它们放进真实系统、组织与生命周期。只有当旧默认被写成可检查条件,新方法才构成转向。
被继承的判据是“日志不是自然样本”:点击偏差、反事实风险、曝光去偏和离线—在线裂缝都要求说明数据由何种策略产生。 这一判据在二十条里反复出现:条件、操作、读数与边界必须形成可复查链条。工具名可以变化,数据来源、分母、中止、未达阈值或无法归类的对象和复现路径却不能省;这也是碰撞行能够抽取并与别的领域通约的基础。
被推翻的是“准确率更高就一定上线更好”;仍未解决的是长期生态改变后,反事实评价的稳定性从何而来。 因而,本领域尚未解决的核心不是再提高一个百分点,而是如何把用户、内容和创作者的策略反应纳入长期、可审计的因果评价。若未来五年的工作仍只给均值和排行榜,不给真实部署、尾部和反例,它不会继续这条二十年主线。
◎ 三个常见误解
误解一:点击率就是用户价值。它容易被相信,是因为单次榜单只显示结果而隐藏候选集、展示位置、日志策略与用户时间窗口、中止、未达阈值或无法归类的对象与选择过程。正确表述是把收益限定在同一分母和同一边界内,再看是否跨环境保持。
误解二:向量库召回高就能保证答案可靠。它容易被相信,是因为工具把一部分依赖封装起来,看上去像整个系统已经被封装。正确表述是任何抽象都只覆盖一段链条,外部数据、版本、组织和硬件仍需单独核验。
误解三:推荐只响应偏好而不制造偏好。它容易被相信,是因为成功案例适合传播,而去偏估计会有高方差与支持集缺口通常不进入摘要。正确表述是收益与边界、代价、反例必须同时报告,不能把局部改进外推成普遍保证。
◎ 与相邻领域的接口
与〈多智能体系统〉的接口在于:用户、创作者和推荐策略可视为彼此响应的多主体系统。 分工判据是,本块负责把计算对象、系统行为与可核对读数写清;相邻领域负责它自己的机制、制度或物理约束。若同一现象使用不同术语和分母,两边都保留,并在碰撞行登记异名。
与〈语音处理与音频智能〉的接口在于:语音与音频嵌入进入稠密检索后,也面临跨语言偏差与开放集失败。 分工判据是,本块负责把计算对象、系统行为与可核对读数写清;相邻领域负责它自己的机制、制度或物理约束。若同一现象使用不同术语和分母,两边都保留,并在碰撞行登记异名。
与〈系统性能与能效〉的接口在于:向量检索的尾延迟、内存与能耗会改变可部署的排序策略。 分工判据是,本块负责把计算对象、系统行为与可核对读数写清;相邻领域负责它自己的机制、制度或物理约束。若同一现象使用不同术语和分母,两边都保留,并在碰撞行登记异名。
与〈平台与数字经济〉的接口在于:分发权与供给激励属于平台层,本面板只给出可测的算法接口。 分工判据是,本块负责把计算对象、系统行为与可核对读数写清;相邻领域负责它自己的机制、制度或物理约束。若同一现象使用不同术语和分母,两边都保留,并在碰撞行登记异名。
◎ 争议现场
未收敛的争论是:复杂神经推荐是否稳定优于强传统基线。支持方强调已有正向设计,反对方指出分母、样本或环境不足以外推。要怎样才能收敛:用不少于三个独立平台或人群,预注册共同基线、预算和停止规则,并以召回、校准、长期满意度和生态分布的分层分布比较;若方向一致且边界可预测,争论才收敛。
未收敛的争论是:公平曝光应约束个体、群体还是内容提供者。支持方强调已有正向设计,反对方指出分母、样本或环境不足以外推。要怎样才能收敛:建立版本化公开基准,保存失败配置、调参轨迹和维护成本,以盲评方式复跑;若收益只在事后选择的路径上出现,应判为未收敛。
未收敛的争论是:RAG评价应以答案、证据还是整条因果链为单位。支持方强调已有正向设计,反对方指出分母、样本或环境不足以外推。要怎样才能收敛:把局部结果接入真实工作流或制度现场,连续观测至少一个完整周期,并报告最差分位与反事实对照;只有端到端读数同向,才能排除成本转移。
◎ 往下五年看什么
观察点是离线指标对随后在线增量收益的相关系数。应固定统计周期、样本覆盖与质量门槛,按年度公布分布而非只公布最好值;若连续两次独立复测方向相反,就说明该读数尚不足以承担领域判据。
观察点是同一用户跨策略日志的支持集覆盖率。应固定统计周期、样本覆盖与质量门槛,按年度公布分布而非只公布最好值;若连续两次独立复测方向相反,就说明该读数尚不足以承担领域判据。
观察点是创作者供给多样性随推荐变更的半年变化。应固定统计周期、样本覆盖与质量门槛,按年度公布分布而非只公布最好值;若连续两次独立复测方向相反,就说明该读数尚不足以承担领域判据。
观察点是RAG答案中可由检索片段逐句支持的比例。应固定统计周期、样本覆盖与质量门槛,按年度公布分布而非只公布最好值;若连续两次独立复测方向相反,就说明该读数尚不足以承担领域判据。
◎ 可与哪些领域对撞
本块第17条《算法混淆:推荐反馈会制造它随后‘发现’的偏好》与第357号第十五条《学习中的策略反应》可以对撞。它们共享的预设是:两边都默认被系统观察和奖励的主体会调整行为。相反点在于:推荐反馈把被塑造的偏好当作原有偏好,多智能体学习把伙伴适应当成环境变化。若两边都成立,若两边都成立,第三项就是评价策略本身属于系统动力学,离线静态反事实不足。
本块第15条《公平曝光:公平对象是注意力分配而非只看准确率》与第155号第一幕甲条《价格结构而非价格水平》可以对撞。它们共享的预设是:两边都默认平台在多方之间分配稀缺注意或补贴。相反点在于:公平曝光约束谁被看见,双边市场决定向哪一边收费或补贴。若两边都成立,若两边都成立,准确率和价格都必须嵌入多方剩余的共同账本。
本块第20条《供给侧响应:推荐系统也在训练创作者》与第086号第一幕丁条《注意力经济与平台化》可以对撞。它们共享的预设是:两边都默认可见性会改变什么内容值得被生产。相反点在于:供给侧响应把创作者调整纳入推荐模型,媒介研究把广告和排序视为新闻生产的结构条件。若两边都成立,若两边都成立,第三项就是推荐系统不是被动渠道而是产业组织机制。
本块第18条《离线—在线裂缝:指标提升不能替代因果实验》与第065号第一幕乙条《全球指数被造出来》可以对撞。它们共享的预设是:两边都默认汇总指标可以指导跨情境决策。相反点在于:离线指标在上线后可能反转,生态全球指数也会被少数极端序列支配。若两边都成立,若两边都成立,必须以分层分布和外部效度替代单一平均排名。
◎ 十条可做的研究命题
隐式反馈置信论的因果识别命题:在控制共同预算后,浏览、播放和购买只提供带噪正信号,缺失项应按曝光与行为强度赋予不同置信度;怎么做:在真实部署中随机或准随机改变排序损失、探索、去偏估计或列表策略,固定候选集、展示位置、日志策略与用户时间窗口,比较前后与未处理组;什么算证伪:若效应低于测量误差、跨环境方向不一致,或离线日志由何种旧策略生成不再预测失败,则命题被证伪。
多样化检索的测量命题:在控制共同预算后,列表优化必须惩罚冗余并覆盖不同意图,相关性与新颖性形成可测权衡;怎么做:建立跨三种环境的统一日志,直接测量“独特子主题覆盖数/返回结果数”并分层报告尾部;什么算证伪:若效应低于测量误差、跨环境方向不一致,或点击是否代表满意而非位置诱导不再预测失败,则命题被证伪。
反事实排序学习的复现重估命题:在控制共同预算后,应以倾向加权或反事实风险最小化,校正旧策略决定的曝光概率;怎么做:用新版本、强基线和独立团队重做第5条的关键设计,保存全部失败路径;什么算证伪:若效应低于测量误差、跨环境方向不一致,或向量召回是否遗漏稀有但关键内容不再预测失败,则命题被证伪。
分层近邻图的跨领域命题:在控制共同预算后,多层小世界图可用局部贪心搜索逼近近邻,在内存、构建时间、召回和延迟间连续调;怎么做:把相邻领域的审计、因果或能量账本移入本领域,以共同分母连接召回、校准、长期满意度和生态分布;什么算证伪:若效应低于测量误差、跨环境方向不一致,或公平目标针对谁以及分母如何定义不再预测失败,则命题被证伪。
序列推荐的因果识别命题:在控制共同预算后,推荐应建模兴趣迁移、短期意图和会话上下文,预测下一步而非平均偏好;怎么做:在真实部署中随机或准随机改变排序损失、探索、去偏估计或列表策略,固定候选集、展示位置、日志策略与用户时间窗口,比较前后与未处理组;什么算证伪:若效应低于测量误差、跨环境方向不一致,或创作者调整供给后模型效应是否反转不再预测失败,则命题被证伪。
稠密段落检索的测量命题:在控制共同预算后,双编码器可用问答监督训练查询与段落向量,并通过近似近邻完成大规模召回;怎么做:建立跨三种环境的统一日志,直接测量“相关段落召回数/全部相关段落数”并分层报告尾部;什么算证伪:若效应低于测量误差、跨环境方向不一致,或离线日志由何种旧策略生成不再预测失败,则命题被证伪。
公平曝光的复现重估命题:在控制共同预算后,排序位置产生稀缺曝光,应比较群体、提供者或物品获得的注意力与其相关性或机;怎么做:用新版本、强基线和独立团队重做第13条的关键设计,保存全部失败路径;什么算证伪:若效应低于测量误差、跨环境方向不一致,或点击是否代表满意而非位置诱导不再预测失败,则命题被证伪。
算法混淆的跨领域命题:在控制共同预算后,推荐改变曝光和选择,闭环会放大流行度、降低可识别性并把策略效应误当用户偏;怎么做:把相邻领域的审计、因果或能量账本移入本领域,以共同分母连接召回、校准、长期满意度和生态分布;什么算证伪:若效应低于测量误差、跨环境方向不一致,或向量召回是否遗漏稀有但关键内容不再预测失败,则命题被证伪。
检索增强评估的因果识别命题:在控制共同预算后,应拆分语料覆盖、召回、证据归属、上下文利用和最终答案,并检查错误在哪一段产生;怎么做:在真实部署中随机或准随机改变排序损失、探索、去偏估计或列表策略,固定候选集、展示位置、日志策略与用户时间窗口,比较前后与未处理组;什么算证伪:若效应低于测量误差、跨环境方向不一致,或公平目标针对谁以及分母如何定义不再预测失败,则命题被证伪。
排序学习的测量命题:在控制共同预算后,训练损失应直接反映成对次序或NDCG等列表指标,因为单项误差与排序损失并不等价;怎么做:建立跨三种环境的统一日志,直接测量“正确相对次序对数/文档对总数”并分层报告尾部;什么算证伪:若效应低于测量误差、跨环境方向不一致,或创作者调整供给后模型效应是否反转不再预测失败,则命题被证伪。
◎ 资料核验
- Chapelle, O., & Chang, Y. (2011). Yahoo! Learning to Rank Challenge overview. JMLR Workshop and Conference Proceedings, 14, 1–24.
- Joachims, T., et al. (2007). Evaluating the accuracy of implicit feedback from clicks and query reformulations in web search. Proceedings of SIGIR 2007. ACM.
- Hu, Y., Koren, Y., & Volinsky, C. (2008). Collaborative filtering for implicit feedback datasets. Proceedings of ICDM 2008. IEEE.
- Koren, Y., Bell, R., & Volinsky, C. (2009). Matrix factorization techniques for recommender systems. Computer, 42(8), 30–37.
- Agrawal, R., Gollapudi, S., Halverson, A., & Ieong, S. (2009). Diversifying search results. Proceedings of WSDM 2009. ACM.
- Li, L., Chu, W., Langford, J., & Schapire, R. E. (2010). A contextual-bandit approach to personalized news article recommendation. Proceedings of WWW 2010, 661–670. ACM.
- Swaminathan, A., & Joachims, T. (2015). Counterfactual risk minimization: Learning from logged bandit feedback. Proceedings of ICML 2015. PMLR.
- Huang, P.-S., et al. (2013). Learning deep structured semantic models for web search using clickthrough data. Proceedings of CIKM 2013. ACM.
- Malkov, Y. A., & Yashunin, D. A. (2020). Efficient and robust approximate nearest neighbor search using hierarchical navigable small world graphs. IEEE Transactions on Pattern Analysis and Machine Intelligence, 42(4), 824–836. Preprint first released in 2016.
- Dacrema, M. F., Cremonesi, P., & Jannach, D. (2019). Are we really making much progress? A worrying analysis of recent neural recommendation approaches. Proceedings of RecSys 2019. ACM.
- Hidasi, B., Karatzoglou, A., Baltrunas, L., & Tikk, D. (2016). Session-based recommendations with recurrent neural networks. Proceedings of ICLR 2016.
- Nogueira, R., & Cho, K. (2019). Passage re-ranking with BERT. arXiv:1901.04085.
- Karpukhin, V., et al. (2020). Dense passage retrieval for open-domain question answering. Proceedings of EMNLP 2020, 6769–6781.
- Schnabel, T., Swaminathan, A., Singh, A., Chandak, N., & Joachims, T. (2016). Recommendations as treatments: Debiasing learning and evaluation. Proceedings of ICML 2016. PMLR.
- Singh, A., & Joachims, T. (2018). Fairness of exposure in rankings. Proceedings of KDD 2018. ACM.
- Ie, E., et al. (2019). SlateQ: A tractable decomposition for reinforcement learning with recommendation sets. Proceedings of IJCAI 2019.
- Chaney, A. J. B., Stewart, B. M., & Engelhardt, B. E. (2018). How algorithmic confounding in recommendation systems increases homogeneity and decreases utility. Proceedings of RecSys 2018. ACM.
- Gilotte, A., Calauzènes, C., Nedelec, T., Abraham, A., & Dollé, S. (2018). Offline A/B testing for recommender systems. Proceedings of WSDM 2018, 198–206. https://doi.org/10.1145/3159652.3159687.
- Saad-Falcon, J., et al. (2024). ARES: An automated evaluation framework for retrieval-augmented generation systems. Proceedings of NAACL 2024, 338–354.
- Abdollahpouri, H., Adomavicius, G., Burke, R., Guy, I., Jannach, D., Kamishima, T., Krasnodebski, J., & Pizzato, L. A. (2020). Multistakeholder recommendation: Survey and research directions. User Modeling and User-Adapted Interaction, 30(1), 127–158. https://doi.org/10.1007/s11257-019-09256-1.
- Es, S., James, J., Espinosa Anke, L., & Schockaert, S. (2024). RAGAS: Automated evaluation of retrieval augmented generation. Proceedings of EACL 2024: System Demonstrations, 150–158. https://doi.org/10.18653/v1/2024.eacl-demo.16.