我正在尝试使用正则表达式根据标点符号拆分文本,仅当标点符号跟在单词后面并继续空格或字符串结尾时。
我试过([a-zA-Z])([,;.-])(\s|$)
但是当我想在 Python 中拆分时,它包括单词的最后一个字符。
我想这样拆分:
text = 'Mr.Smith is a professor at Harvard, and is a great guy.'
splits = ['Mr.Smith', 'is', 'a', 'professor', 'at', 'Harvard', ',', 'and', 'a', 'great', 'guy', '.']
任何帮助将不胜感激!
请您参考如下方法:
看来你想做标记化。试试 nltk
http://text-processing.com/demo/tokenize/
from nltk.tokenize import TreebankWordTokenizer
splits = TreebankWordTokenizer().tokenize(text)
