在SIDKIT学习的LDA实现中,“困惑”(或“分数”)应该上升还是下降?

困惑 是衡量一个模型对一个样本的预测程度。

根据 Latent Dirichlet Allocation 作者:Blei、Ng和Jordan,

〔w〕计算出一个保持测试集的困惑来评估模型。在语言建模中,惯例所使用的困惑在测试数据的可能性中单调递减,并且代数等价于每个单词似然的几何平均值的倒数。较低的困惑得分表示更好的泛化性能。

这可以从本文的下图中看出:

在埃森斯,因为 困惑 等于几何平均值的倒数,a 降低 困惑意味着数据是 更多 很可能。因此,随着主题数量的增加 困惑 模型的数量应该减少。