Jackknifer

同一个用户最近看过体育、音乐和美食视频。面对一个新的篮球候选，排序模型需要同时理解两类信息：候选的作者、类别与用户属性之间的关系，以及历史中哪些行为能够说明当前兴趣。

本文梳理截至 2026 年 10 月公开的代表性推荐系统研究，重点解释模型为什么出现、解决什么问题，以及不同技术路线之间的关系。文中模型规模、收益和部署效果均来自相应论文或机构披露，不能跨数据集直接比较。

1 从一次推荐开始

打开一个短视频应用时，系统面对的问题其实很具体：在成千上万条候选内容里，哪些内容值得展示给当前用户？同一个视频给不同用户可能有完全不同的效果；同一个用户在早晨和晚上，兴趣也可能发生变化。

一个简化的推荐流程可以分成三步。

深层神经网络需要让信息与梯度经过许多计算模块。残差连接通过 $y=x+F(x)$ 提供直接的加法路径，使模块能够学习输入的更新量。本文说明残差连接的计算结构、梯度传播、二维数值计算，以及它在 Transformer 中的应用。

评估分类、推荐或流量预测模型时，往往需要同时查看几个指标。一个模型的 Accuracy 很高，仍可能找不到目标用户；整体排序表现良好，前几条推荐也可能不够理想。

下面用电影点击预测的例子，说明真实标签、预测得分和分类阈值怎样影响评价指标。分类与排序部分包括 Precision、Recall、Top-K、F1、ROC 和 AUC，回归部分讨论 RMSE、MAE 和 MAPE。

损失函数的定义通常与概率假设或预测目标有关。本文讨论常见定义的来源，以及损失产生的梯度如何用于更新模型参数。

一、损失函数与训练目标

给定输入 $x$、真实标签 $y$ 和模型参数 $\theta$，模型产生预测：

电影推荐需要把用户过去的评分，转化为下一次打开页面时看到的电影列表。movielens-recsys 使用 MovieLens-1M 完成这条流程：输入用户编号和推荐时间，从电影目录中生成候选，最终展示 20 部电影。

项目使用 YouTube DNN 学习用户和电影的向量，再使用 DCNv2 判断候选的展示次序。数据划分、历史构造、其他召回通道和展示规则共同影响最终结果。理解这几个部分的连接方式，也能解释一部电影为何进入推荐列表。

机器学习模型处理文本时，需要把词语和文章转换成数值。词袋模型、主题模型和 Word2Vec 使用不同的方法，保留的信息也不同。

下面从词频表示谈起，介绍 TF-IDF、N-gram、LDA 和词嵌入，再讨论 Word2Vec 的结构、训练方法及其与 LDA 的联系。文中的交互演示可以直接调整参数。

一、文本为什么需要数值表示？

考虑一个电影推荐系统。电影 A 的简介是“人工智能研究者学习神经网络”，电影 B 是“科学家研究机器学习算法”，电影 C 是“一段关于爱情与家庭的故事”。

阅读依据：Jie Zhu、Zhifang Fan、Xiaoxie Zhu 等，RankMixer: Scaling Up Ranking Models in Industrial Recommenders，arXiv:2507.15551v3[1]。模型输入和 Dense Block 的逐步计算见 上篇。