Skip to main content
 首页 » 编程设计

Python:CountVectorizer 忽略一个字母单词 "I"

2024年12月31日9txw1958

我有一个名为 dictionary1 的列表。我使用以下代码获取文本的稀疏计数矩阵:

cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=None)   
cv1.fit_transform(dictionary1) 

不过我注意到

list(set(dictionary1)-set(cv1.get_feature_names())) 

结果在 ['i'] 中。所以“i”在我的字典中,但 CountVectorizer 忽略了它(可能是某些默认设置丢弃了一个字符的单词)。在documentation我找不到这样的选项。有人可以指出我的问题吗?事实上,我想在我的分析中保留“i”,因为它可以指代更个人化的语言。

请您参考如下方法:

一个可行的解决方法是直接将字典作为词汇传递(实际上我不知道为什么我一开始不这样做)。即

cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=[], vocabulary=dictionary1) 
cv1._validate_vocabulary() 

list(set(dictionary1)-set(cv1.get_feature_names())) 然后返回 []。

在我原来的帖子中,我应该提到 dictionary1 已经是唯一标记的列表。