我有一个名为 dictionary1 的列表。我使用以下代码获取文本的稀疏计数矩阵:
cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=None)
cv1.fit_transform(dictionary1)
不过我注意到
list(set(dictionary1)-set(cv1.get_feature_names()))
结果在 ['i'] 中。所以“i”在我的字典中,但 CountVectorizer 忽略了它(可能是某些默认设置丢弃了一个字符的单词)。在documentation我找不到这样的选项。有人可以指出我的问题吗?事实上,我想在我的分析中保留“i”,因为它可以指代更个人化的语言。
请您参考如下方法:
一个可行的解决方法是直接将字典作为词汇传递(实际上我不知道为什么我一开始不这样做)。即
cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=[], vocabulary=dictionary1)
cv1._validate_vocabulary()
list(set(dictionary1)-set(cv1.get_feature_names())) 然后返回 []。
在我原来的帖子中,我应该提到 dictionary1 已经是唯一标记的列表。
