1. 基本情况

项目 情况
仓库 D4Vinci/Scrapling
多少人在用 78,898 star / 7,945 fork
主要语言 Python
诞生时间 2024-10-13
最近更新 2026-09-04
还活着吗 ✅ 活跃(2 天前还有更新)
许可证 BSD-3-Clause(宽松许可证,商用一般没问题)
未解决的问题 15 个 issue 未关闭

2. 主要用来干什么

一个 Python 爬虫框架,最大的特点是网站改版之后你的代码还能继续跑。

写过爬虫的人都懂这个痛:你辛辛苦苦调好了一堆选择器(告诉程序"标题在这个位置"),网站前端一改版,全部失效,你得重新对着新页面一个个改。爬虫维护的时间往往比写它的时间还长。

Scrapling 的做法是:抓取时不只记住"标题在哪个位置",还顺手存一份这个元素的"指纹"——它的属性、文字内容、以及周围的上下文长什么样。等哪天选择器失效了,它就拿这份指纹去新页面里逐个比对相似度,找出最像的那个元素接着用。

除了这个招牌功能,它是个挺完整的框架:

许可证是 BSD-3-Clause,属于宽松许可证,商用没问题。

但那个"自适应"能力有两个明确的失效条件,必须先知道:

一、网站彻底重写就没救了。 如果一个网站从服务端渲染整个改成 React 单页应用、数据改走 WebSocket 传输,页面结构面目全非——指纹比对会完全失效。它能扛的是"改版",不是"重做"。

二、指纹要能存得住。 那份指纹是存在本地的。如果你把爬虫部署在 Serverless 这类环境里、又没挂持久存储,容器一重启指纹就没了,自适应功能等于不存在。

3. 为什么会火

它戳中了什么痛点

爬虫这行有个公开的秘密:写出来只是开始,维护才是无底洞。 你的选择器写得再漂亮,网站一改版就全废。很多团队的爬虫最后不是因为技术不行而废弃,是因为没人愿意每周去修一遍。

Scrapling 直接冲着这个来:让选择器"自愈"。

为什么是它赢了

自愈选择器这个想法不新,商业爬虫服务早就有。但它做了两件事:一是开源免费,二是把这件事做进了一个完整框架——从单个请求到整站爬取、从静态页到需要跑 JS 的动态页、加上反检测,是一套完整的东西,不是一个孤立的小功能。

赶上 AI 这波也有关系:它提供 MCP 服务和 AI Agent 技能,可以直接让 AI 去爬网页。这个时间点踩得很准——现在大量 AI 应用都需要"让 agent 自己去网上取数据"。

大家在夸什么

自适应选择器确实管用、上手快(链式写法)、文档齐全(还有中文版)、既能当库用也能给 AI 用。有 YouTube 视频专门讲它的"自愈选择器"。

大家在骂什么 / 两个明确的失效条件

这次找到的是技术性限制而不是情绪化差评,我觉得更有价值:

  1. 网站彻底重写就救不了。 有技术评测明确指出:如果一个网站从服务端渲染整个换成 React 单页应用、数据改走 WebSocket,自动匹配算法会完全失效。它能扛"改版",扛不住"重做"。
  2. Serverless 部署会让这个功能失效。 指纹存在本地,容器一重启就没了——如果你没挂持久存储,这个招牌功能等于不存在。 这个坑很隐蔽,而且很多人正是把爬虫部署在这类环境里。

已有的评测

4. 同类还有谁,怎么选

star 最近更新 许可证 定位
Scrapling 78,893 2026-09-04 BSD-3 自愈选择器,改版了还能跑
firecrawl/firecrawl 177,388 2026-09-07 AGPL-3.0 ⚠️ 抓取即服务,专门喂给 AI
unclecode/crawl4ai 81,845 2026-09-01 Apache-2.0 为 AI 设计的爬虫,直接输出干净 Markdown
scrapy/scrapy 64,217 2026-09-06 BSD-3 老牌工业级框架,生态最全
microsoft/playwright-python 14,984 2026-09-03 Apache-2.0 浏览器自动化,是别人的地基
apify/crawlee-python 9,490 2026-09-07 Apache-2.0 完整爬虫框架,商业公司维护

先说一条只有查接口才知道的事:firecrawl 是 AGPL-3.0。 它星数最多、名气最大,但这个许可证意味着接进对外服务的产品会触发开源义务。自己用没问题,商用前务必想清楚。上面其他几个都是宽松许可证。

什么时候该选它

一句话:先问自己"我要不要写选择器"。 要写(结构化提取特定字段)→ Scrapling 的自愈值钱;不用写(整页转文本喂给 AI)→ crawl4ai 更省事,Scrapling 的核心优势对你归零。

你亲测时重点看这几点

  1. 自愈到底能扛多大的改版(最值得验,也最容易出内容)。故意做个实验:抓一个页面存下指纹,然后自己改一份 HTML(挪动元素、改类名、加嵌套),看它在多大改动下还能找对。这条曲线全网没有,而它恰恰是这个项目的全部价值所在。
  2. Serverless 那个坑有多容易踩。把它部署到一个无持久存储的环境,验证自适应是不是真的失效。这个坑很隐蔽,说清楚能救不少人。
  3. 中文网站好不好使。它的相似度比对要看文字内容,中文分词和英文完全不同——所有评测都是英文站,这是块空白。
  4. 反检测到底能过几关。宣称能应付基础反爬,那 Cloudflare 那一层呢?实测一下边界在哪。
  5. 和 crawl4ai 比,同一个任务谁更快、代码更短。这两个是最常被拿来比的,但没人做过同题对比。

5. 我的实测

还没有亲自试过这个工具。


客观数据来自 GitHub 接口,生成于 2026-09-07。判断部分仅供参考,动手前请以你自己的实测为准。