gocolly

colly

gocolly

Elegant Scraper and Crawler Framework for Golang

AI 简介

Colly 是一个用 Go 语言编写的高性能网页爬虫与数据采集框架。它提供简洁的 API,支持并发控制、自动 Cookie/会话管理、Robots.txt 解析、响应编码自动识别、缓存及分布式扩展等核心能力,单核可达每秒千级请求处理速度。适用于结构化网页数据抽取场景,如公开信息聚合、内容归档、价格监控、搜索引擎索引构建等需要可靠、可控、可维护的网络抓取任务。

Go
Apache License 2.0
25.4k
Stars
1.9k
Forks
315
Watchers
158
Issues

Star 增长

今日0
近 7 天0
近 30 天+25
综合评分72.3
默认分支master