Scrapy 安装与设置

在本章中，我们将讨论如何安装和设置 Scrapy。 Scrapy 必须与 Python 一起安装。

可以使用 pip 安装 Scrapy。 要安装，请运行以下命令

$ pip install Scrapy

windows

注意 - Windows 操作系统不支持 Python 3。

第 1 步 - 从 Python 安装 Python 2.7

通过将以下路径添加到 PATH 来设置环境变量

C:\Python27\;C:\Python27\Scripts\; 

我们可以使用以下命令检查 Python 版本

> python --version

第 2 步 - 安装 OpenSSL。

在环境变量中添加 C:\OpenSSL-Win32\bin。

注意 - OpenSSL 预装在除 Windows 之外的所有操作系统中。

第 3 步 - 安装 Visual C++ 2008 可再发行组件。

第 4 步 - 安装 pywin32。

第 5 步 - 为 2.7.9 之前的 Python 版本安装 pip。

我们可以使用以下命令检查 pip 版本

> pip --version

第 6 步 - 要安装 scrapy，请运行以下命令

> pip install scrapy

Anaconda

如果我们的机器上安装了 anaconda 或 miniconda，请运行以下命令使用 conda 安装 Scrapy

conda install -c scrapinghub scrapy

Scrapinghub 公司支持 Linux、Windows 和 OS X 的官方 conda 包。

注意 - 如果我们在通过 pip 安装时遇到问题，建议使用上述命令安装 Scrapy。

Ubuntu 9.10 及以上

Ubuntu 操作系统预装了最新版本的 Python。 使用 Scrapinghub 提供的 Ubuntu 软件包 aptgettable。 使用包 -

第 1 步 - 我们需要将用于签署 Scrapy 包的 GPG 密钥导入 APT 密钥环

$ sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv 627220E7

第 2 步 - 接下来，使用以下命令创建 /etc/apt/sources.list.d/scrapy.list 文件

$ echo 'deb http://archive.scrapy.org/ubuntu scrapy main' | sudo tee  /etc/apt/sources.list.d/scrapy.list

第 3 步 - 更新包列表并安装 scrapy

$ sudo apt-get update && sudo apt-get install scrapy

Archlinux

我们可以使用以下命令从 AUR Scrapy 包安装 Scrapy

$ yaourt -S scrapy

Mac OS X

使用以下命令安装 Xcode 命令行工具

$ xcode-select --install 

不要使用系统 Python，而是安装一个与系统其余部分不冲突的新更新版本。

第 1 步 - 安装自定义软件。

第 2 步 - 设置环境 PATH 变量以指定应在系统包之前使用自制程序包

$ echo "export PATH = /usr/local/bin:/usr/local/sbin:$PATH" >> ~/.bashrc

第 3 步 - 为确保更改已完成，请使用以下命令重新加载 .bashrc

$ source ~/.bashrc 

第 4 步 - 接下来，使用以下命令安装 Python

$ brew install python

第 5 步 - 使用以下命令安装 Scrapy

$ pip install Scrapy