Skip to main content
 首页 » 编程设计

python之训练机器学习预测器

2025年05月04日13lexus

我一直在尝试使用用户数据构建预测模型。模型的输入是文档的元数据(发布日期、标题等),文档标签是用户的偏好(喜欢/不喜欢)。我想问一些我遇到的问题,希望得到一些答案:

  1. 喜欢的文档远远多于不喜欢的文档。我在某处读到,如果有人使用一个标签的输入比另一个标签更多地训练模型,这会以不好的方式影响性能(模型倾向于将所有内容分类到具有大部分输入的标签/结果
  2. 是否有可能将输入输入到 ML 算法中,例如逻辑回归在数字和单词方面是混合的,以及如何做到这一点,例如:

    input = [18,23,1,0,'cryptography'] with label = ['Like']

    我们还可以使用一个向量(表示一个词,使用 tfidf 等)作为输入特征(例如 50 维向量)吗?

  3. 为了使用文本数据构建预测模型,唯一的方法是从我们文档中提到的每个词中派生出字典,然后构建一个二进制输入来指示是否提到某个术语?使用这样的版本虽然我们在集合中减轻了术语的重量,对吗? 我们能否在监督学习模型中将某些东西用作 word2vec 向量作为单个输入?

感谢您的宝贵时间。

请您参考如下方法:

  1. 您要么需要对较大的类进行欠采样(取一个小的随机样本以匹配较小类的大小),对较小的类进行过采样(自举样本),要么使用支持不平衡的算法数据 - 为此,您需要阅读文档。

  2. 您需要将单词转换为单词向量。列是语料库中所有唯一的词。行是文件。单元格值是以下之一:单词是否出现在文档中、出现的次数、出现的相对频率或其 TFIDF 分数。然后,您可以将这些列与其他非单词列一起使用。

现在您的列数可能比行数多,这意味着您将使用基于矩阵的算法获得奇点,在这种情况下您需要 SVM 或朴素贝叶斯之类的东西。