Playwright截图 + MiniMax图像理解的高级网页抓取skill。绕过反爬虫,直接用AI理解截图内容。
Playwright 截图 + MiniMax 图像理解,绕过反爬虫,直接用 AI 提取页面内容。
对比项传统抓取Vision Scraper反爬虫❌ 易被屏蔽✅ 截图绕过检测JS渲染⚠️ 复杂✅ 截图即完整内容理解❌ 需解析HTML✅ AI直接理解动态内容❌ 难抓✅ 截图即所见
text
URL → Playwright截图(Chrome) → MiniMax VLM图像理解 → AI分析结果
bash
cd ~/.openclaw/workspace/skills/ffagen__minimax-vision-scraper
npm install playwright
# 无需安装 chromium,直接使用系统已装的 Google Chrome
bash
node scripts/screenshot.js <URL> [prompt]
# 示例
node scripts/screenshot.js "https://news.sina.com.cn" "提取今日头条新闻"
node scripts/screenshot.js "https://finance.sina.com.cn" "提取股票行情数据"
变量默认值说明WAIT_TIME5000等待时间(ms)HEADLESStrue是否无头模式SCREENSHOT_PATH/tmp/screenshot-*.png截图保存路径MINIMAX_API_KEY(内置)MiniMax API KeyMINIMAX_API_HOSTapi.minimaxi.comAPI地址
text
用 ffagen__minimax-vision-scraper 抓取 https://example.com,分析页面内容
✅ 隐藏 navigator.webdriver
✅ 真实 iPhone User-Agent
✅ 移动端视口 (375x812)
✅ 隐藏 Chrome 自动化特征
✅ 模拟 permissions.query
✅ Cloudflare 检测 + 额外等待
抓取财经新闻:
bash
node scripts/screenshot.js "https://finance.sina.com.cn" "提取所有财经新闻标题和摘要"
抓取股票数据:
bash
node scripts/screenshot.js "https://stock.finance.sina.com.cn" "提取大盘指数和涨跌数据"
抓取商品信息:
bash
node scripts/screenshot.js "https://item.jd.com/100000.html" "提取商品名称、价格、评价"
/v1/coding_plan/vlm)