教学专区 ↗
开源站 › 挖数据 › 爬虫框架
挖数据 爬虫框架 爬虫 LLM Python Apache-2.0

crawl4ai

语言 Python开源协议 Apache-2.0收录 开源站
项目地址https://github.com/unclecode/crawl4ai
GitHub Star⭐ 78208
分类挖数据 / 爬虫框架
📣

一句话认识它

喂给 AI 的爬虫:把网页转成干净、AI 能直接读的 markdown,免费、不用 API key。

🛠️

快速开始

项目 unclecode/crawl4ai · 语言 Python · 协议 Apache-2.0

pip 安装

  1. pip install crawl4ai
  2. crawl4ai-setup 初始化
  3. 用 async Crawler 抓取
💻

常用命令

安装:

pip install crawl4ai

使用 / 启动:

crawl4ai-setup
🚀

典型用法

喂给 AI 的爬虫:把网页转成干净、AI 能直接读的 markdown,免费、不用 API key。

抓网页转成 AI 可读 markdown,喂给 LLM 做 RAG/分析

⚠️

使用提示

  • 国内可用。Python≥3.10,装 playwright 走国内镜像。爬小红书/抖音会风控,建议配代理。
📄

官方链接

  • GitHub:unclecode/crawl4ai
  • 更多用法看官方 README 与 docs,踩坑搜 GitHub Issues
本站测评教学 · 正在进行中
开眼战 · 各工具的实测与教学视频陆续上架