Skip to main content
 首页 » 编程设计

python之无法为 Python 运行 scrapy

2025年05月04日9kenshinobiy

我是这个平台的新手,也是 Python 抓取的新手。我希望我的问题仍然可以理解,并且有人可以帮助我。抱歉,如果我不清楚...

我已经检查过类似主题的其他帖子,但无法解决我的问题。 我目前正在进入网络抓取并想尝试 Scrapy。因此,我按照网站上的安装说明进行操作。 http://doc.scrapy.org/en/0.16/intro/install.html#intro-install 在弄清楚它的工作原理后,我决定在虚拟环境中运行。

我安装了 virtualenv 和 pip。 然后我安装了 Scrapy。

当我现在想开始教程的时候

scrapy startproject tutorial 

我收到以下错误消息:

    File "/Users/XXX/environment_trial/bin/scrapy", line 3, in <module> 
    from scrapy.cmdline import execute 
  File "/Users/XXX/environment_trial/lib/python2.7/site-packages/scrapy/cmdline.py", line 7, in <module> 
    from scrapy.crawler import CrawlerProcess 
  File "/Users/XXX/environment_trial/lib/python2.7/site-packages/scrapy/crawler.py", line 3, in <module> 
    from twisted.internet import reactor, defer 
ImportError: No module named twisted.internet 
(environment_trial)XXX-iMac:~ XXX$  

我无法按照其他帖子的建议在我的 Mac 上找到 Twisted.py。

谁能告诉我该怎么做?

请您参考如下方法:

简单的说,你需要安装twis​​ted。你可以从the download page得到它.看起来您需要在较新的 Mac 上从源代码安装,但这只是提取 tarball 并在提取的文件夹中运行 python setup.py install 的情况。

编辑:因为你已经安装了 pip,你也可以用它抓取扭曲。

pip -E twisted_env install -U twisted