蝙蝠岛资源网 Design By www.hbtsch.com
1. 下载非标准的包,"golang.org/x/net/html"
2. 先安装git,使用git命令下载
git clone https://github.com/golang/net
3. 将net包,放到GOROOT路径下
比如:
我的是:GOROOT = E:\go\
所以最终目录是:E:\go\src\golang.org\x\net
注意:如果没有golang.org和x文件夹,就创建
4. 创建fetch目录,在其下创建main.go文件,main.go文件代码内容如下:
package main import ( "os" "net/http" "fmt" "io/ioutil" ) func main() { for _, url := range os.Args[1:] { resp, err := http.Get(url) if err != nil { fmt.Fprintf(os.Stderr, "fetch: %v\n", err) } b, err := ioutil.ReadAll(resp.Body) resp.Body.Close() if err != nil { fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err) os.Exit(1) } fmt.Printf("%s",b) } }
5. 编译fetch
go build test.com\justin\demo\fetch
注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。
6. 执行fetch.exe 文件
fetch.exe https://www.qq.com
注意:https://www.qq.com是要爬的网址,配置正确的话,会打印出网址的HTML内容。如果没有,请检查以上步骤是否正确。
7. 网页已经抓取了,那么剩下就分析页面包含的链接了,创建findlinks目录,在其下创建main.go文件,main.go文件代码内容如下:
package main import ( "os" "fmt" "golang.org/x/net/html" ) func main() { doc, err := html.Parse(os.Stdin) if err != nil { fmt.Fprint(os.Stderr, "findlinks: %v\n", err) os.Exit(1) } for _, link := range visit(nil, doc) { fmt.Println(link) } } func visit(links []string, n *html.Node) []string { if n.Type == html.ElementNode && n.Data == "a" { for _, a := range n.Attr { if a.Key == "href" { links = append(links, a.Val) } } } for c := n.FirstChild; c != nil; c = c.NextSibling { links = visit(links, c) } return links }
8. 编译findlinks
go build test.com\justin\demo\findlinks
注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。
9. 执行findlinks.exe 文件
fetch.exe https://www.qq.com | findlinks.exe
> 10. 执行后结果:获取到各种不同形式的超链接
以上这篇golang抓取网页并分析页面包含的链接方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
标签:
golang,抓取,网页,链接
蝙蝠岛资源网 Design By www.hbtsch.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
蝙蝠岛资源网 Design By www.hbtsch.com
暂无golang抓取网页并分析页面包含的链接方法的评论...
更新日志
2024年05月17日
2024年05月17日
- 高胜美《经典金选》1991-1994 4CD[WAV整轨][1.9G]
- 【迷幻电音】AstralWaves-2023-Singles,RemixesandRaritiesII(FLAC)
- 中唱唱片群星《好歌珍藏-游子情深》2CDWAV
- 张国荣.2011-极品天碟LPCD45II(雨果版)【环球】【WAV+CUE】
- 张学友《醒着做梦》[DFF][1.1G]
- 刘惜君 《如我》[WAV分轨][403M]
- 白玛多吉《梦》限量1:1母盘直刻[低速原抓WAV+CUE][508M]
- 魏金栋-金歌新曲-梦里全是桂花香2CD[天凡之音][WAV+CUE]
- 鲛岛有美子-樱花赋HQCD[天龙][WAV+CUE]
- [In-Akustik7506]ReferenceSoundEdition-GreatWomenOfSong(2014)HQCD[WAV+CUE]
- 日本EMI超级名盘TOGE-11035-36BeethovenFidelio-Furtwngler
- 宝丽金50周年2010《古典篇》3CD限定盘[低速原抓WAV+CUE]
- 华纳群星.1992-永远新一天华纳15周年金钻群星演唱会2CD【华纳】【WAV+CUE】
- 原声《功夫熊猫4 OST》[FLAC][545M]
- 陈奕迅《酝酿》[WAV分轨][502M]