Scrapy - Web 服务

描述

正在运行的 Scrapy Web 爬虫可以通过 JSON-RPC 进行控制。它通过 JSONRPC_ENABLED 设置启用。此服务通过 JSON-RPC 2.0 协议提供对主爬虫对象的访问。访问爬虫对象的端点是 −

http://localhost:6080/crawler

下表包含一些显示 Web 服务 −

行为的设置
Sr.No 设置 &描述 默认值
1

JSONRPC_ENABLED

这指的是布尔值,它决定是否启用 Web 服务及其扩展。

True
2

JSONRPC_LOGFILE

这指的是用于记录对 Web 服务发出的 HTTP 请求的文件。如果未设置,则将使用标准 Scrapy 日志。

3

JSONRPC_PORT

这指的是 Web 服务的端口范围。如果设置为无,则将动态分配端口。

[6080, 7030]
4

JSONRPC_HOST

这指的是 Web 服务应监听的接口。

'127.0.0.1'