1. 基本情况
| 项目 | 情况 |
|---|---|
| 仓库 | D4Vinci/Scrapling |
| 多少人在用 | 78,898 star / 7,945 fork |
| 主要语言 | Python |
| 诞生时间 | 2024-10-13 |
| 最近更新 | 2026-09-04 |
| 还活着吗 | ✅ 活跃(2 天前还有更新) |
| 许可证 | BSD-3-Clause(宽松许可证,商用一般没问题) |
| 未解决的问题 | 15 个 issue 未关闭 |
2. 主要用来干什么
一个 Python 爬虫框架,最大的特点是网站改版之后你的代码还能继续跑。
写过爬虫的人都懂这个痛:你辛辛苦苦调好了一堆选择器(告诉程序"标题在这个位置"),网站前端一改版,全部失效,你得重新对着新页面一个个改。爬虫维护的时间往往比写它的时间还长。
Scrapling 的做法是:抓取时不只记住"标题在哪个位置",还顺手存一份这个元素的"指纹"——它的属性、文字内容、以及周围的上下文长什么样。等哪天选择器失效了,它就拿这份指纹去新页面里逐个比对相似度,找出最像的那个元素接着用。
除了这个招牌功能,它是个挺完整的框架:
- 从发一个请求到爬整站都能干
- 接了 Playwright,所以能处理需要执行 JS 才出内容的网页
- 自带一定的反检测能力,能应付基础的反爬
- 提供 MCP 服务和 AI Agent 技能——可以直接接进你的 AI 工作流,让 AI 自己去爬
- 有 Docker 镜像、完整文档、以及中文 README
许可证是 BSD-3-Clause,属于宽松许可证,商用没问题。
但那个"自适应"能力有两个明确的失效条件,必须先知道:
一、网站彻底重写就没救了。 如果一个网站从服务端渲染整个改成 React 单页应用、数据改走 WebSocket 传输,页面结构面目全非——指纹比对会完全失效。它能扛的是"改版",不是"重做"。
二、指纹要能存得住。 那份指纹是存在本地的。如果你把爬虫部署在 Serverless 这类环境里、又没挂持久存储,容器一重启指纹就没了,自适应功能等于不存在。
3. 为什么会火
它戳中了什么痛点
爬虫这行有个公开的秘密:写出来只是开始,维护才是无底洞。 你的选择器写得再漂亮,网站一改版就全废。很多团队的爬虫最后不是因为技术不行而废弃,是因为没人愿意每周去修一遍。
Scrapling 直接冲着这个来:让选择器"自愈"。
为什么是它赢了
自愈选择器这个想法不新,商业爬虫服务早就有。但它做了两件事:一是开源免费,二是把这件事做进了一个完整框架——从单个请求到整站爬取、从静态页到需要跑 JS 的动态页、加上反检测,是一套完整的东西,不是一个孤立的小功能。
赶上 AI 这波也有关系:它提供 MCP 服务和 AI Agent 技能,可以直接让 AI 去爬网页。这个时间点踩得很准——现在大量 AI 应用都需要"让 agent 自己去网上取数据"。
大家在夸什么
自适应选择器确实管用、上手快(链式写法)、文档齐全(还有中文版)、既能当库用也能给 AI 用。有 YouTube 视频专门讲它的"自愈选择器"。
大家在骂什么 / 两个明确的失效条件
这次找到的是技术性限制而不是情绪化差评,我觉得更有价值:
- 网站彻底重写就救不了。 有技术评测明确指出:如果一个网站从服务端渲染整个换成 React 单页应用、数据改走 WebSocket,自动匹配算法会完全失效。它能扛"改版",扛不住"重做"。
- Serverless 部署会让这个功能失效。 指纹存在本地,容器一重启就没了——如果你没挂持久存储,这个招牌功能等于不存在。 这个坑很隐蔽,而且很多人正是把爬虫部署在这类环境里。
已有的评测
- Scrapling:处理网站结构变化的自适应 Python 爬虫库(ScrapingBee,讲原理最清楚)
- Scrapling 技术评测(上面那两条失效条件出自这里,最值得读)
- Scrapling 爬虫教程 2026(Zenrows,实操向)
- 官方的自适应机制文档
- YouTube:自愈选择器讲解
- 项目自带简体中文 README
4. 同类还有谁,怎么选
| star | 最近更新 | 许可证 | 定位 | |
|---|---|---|---|---|
| Scrapling | 78,893 | 2026-09-04 | BSD-3 | 自愈选择器,改版了还能跑 |
| firecrawl/firecrawl | 177,388 | 2026-09-07 | AGPL-3.0 ⚠️ | 抓取即服务,专门喂给 AI |
| unclecode/crawl4ai | 81,845 | 2026-09-01 | Apache-2.0 | 为 AI 设计的爬虫,直接输出干净 Markdown |
| scrapy/scrapy | 64,217 | 2026-09-06 | BSD-3 | 老牌工业级框架,生态最全 |
| microsoft/playwright-python | 14,984 | 2026-09-03 | Apache-2.0 | 浏览器自动化,是别人的地基 |
| apify/crawlee-python | 9,490 | 2026-09-07 | Apache-2.0 | 完整爬虫框架,商业公司维护 |
先说一条只有查接口才知道的事:firecrawl 是 AGPL-3.0。 它星数最多、名气最大,但这个许可证意味着接进对外服务的产品会触发开源义务。自己用没问题,商用前务必想清楚。上面其他几个都是宽松许可证。
什么时候该选它
- 你的爬虫要长期跑、目标网站会改版 → 选 Scrapling。这是它唯一也是最强的理由:别人的爬虫改版就死,它能自愈。 但记住两个失效条件:网站彻底重写救不了;部署在 Serverless 且没挂持久存储,这个功能等于不存在。
- 你只是想把网页抓成干净文本喂给 AI → 选 crawl4ai(Apache-2.0,直接出 Markdown)或 firecrawl(注意 AGPL)。这类根本不需要你写选择器,也就不存在改版失效的问题——如果你的需求是这个,Scrapling 的招牌功能对你没用。
- 你要爬的量非常大、需要工业级调度和去重 → 老老实实上 scrapy。生态最全、坑最少、能搜到的答案最多。
- 你只是要控制浏览器点几下 → 直接用 playwright,别上框架。
- 想让 AI 自己去爬 → Scrapling 和 firecrawl 都提供 MCP 服务,这一点上它俩打平。
一句话:先问自己"我要不要写选择器"。 要写(结构化提取特定字段)→ Scrapling 的自愈值钱;不用写(整页转文本喂给 AI)→ crawl4ai 更省事,Scrapling 的核心优势对你归零。
你亲测时重点看这几点
- 自愈到底能扛多大的改版(最值得验,也最容易出内容)。故意做个实验:抓一个页面存下指纹,然后自己改一份 HTML(挪动元素、改类名、加嵌套),看它在多大改动下还能找对。这条曲线全网没有,而它恰恰是这个项目的全部价值所在。
- Serverless 那个坑有多容易踩。把它部署到一个无持久存储的环境,验证自适应是不是真的失效。这个坑很隐蔽,说清楚能救不少人。
- 中文网站好不好使。它的相似度比对要看文字内容,中文分词和英文完全不同——所有评测都是英文站,这是块空白。
- 反检测到底能过几关。宣称能应付基础反爬,那 Cloudflare 那一层呢?实测一下边界在哪。
- 和 crawl4ai 比,同一个任务谁更快、代码更短。这两个是最常被拿来比的,但没人做过同题对比。
5. 我的实测
还没有亲自试过这个工具。
客观数据来自 GitHub 接口,生成于 2026-09-07。判断部分仅供参考,动手前请以你自己的实测为准。