博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
获取url
阅读量:4493 次
发布时间:2019-06-08

本文共 1537 字,大约阅读时间需要 5 分钟。

import requests from bs4 import BeautifulSoup import re class Get_links(object):     def __init__(self):         self.url = 'http://www.jianfeiketang.com'         self.headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3724.8 Safari/537.36", } def parse(self): response = requests.get(url=self.url, headers=self.headers) html = response.content.decode() links = [] soup = BeautifulSoup(html, "html.parser") url_list = soup.find_all('a') for link in url_list: links.append(link.get('href')) return links def save(self, links): for link in links: with open('../result/jf.txt', 'a', encoding='utf-8') as f: f.write(link + '\n') print('保存成功...') def guolv(self): with open('../result/jf.txt', 'r', encoding='utf-8') as f: lines = f.readlines() for line in lines: # 循环处理每行数据 urls = re.findall(r"http[s]?://(?:[a-zA-Z]|[0-9]|[$-_@.&+]|[!*\(\),]|(?:%[0-9a-fA-F][0-9a-fA-F]))+", line) for url in urls: with open('./jfresult.txt', 'a', encoding='utf-8') as f: f.write(url + '\n') print('清洗完毕。。。') if __name__ == '__main__': get_links = Get_links() links = get_links.parse() get_links.save(links) get_links.guolv()

转载于:https://www.cnblogs.com/victorstudy/p/11425895.html

你可能感兴趣的文章
[LeetCode] Symmetric Tree
查看>>
《钟馗伏魔:雪妖魔灵》另类解读
查看>>
Centos7.3_64位安装Apache2.4_mysql5.7_php5.4(阿里云LAMP php环境搭建图文教程)
查看>>
关于android@home的一点想法
查看>>
智能查寝第一次迭代心得
查看>>
如何选购PLC产品
查看>>
WordPress页脚添加运行时间显示
查看>>
PowerDesigner 逆向工程 Could not Initialize JavaVM!
查看>>
用python抓取oj题目(3)——django显示
查看>>
no.5京东物流系统架构系统演讲中的最佳实践读后感
查看>>
JAVA AES加密算法实现代码
查看>>
STL 之map解决 Message Flood(原字典树问题)
查看>>
Spring Maven——pom.xml及settings.xml配置
查看>>
软件测试基本知识
查看>>
nodejs项目windows下开机自启动
查看>>
1136 - Division by 3
查看>>
1_基本语法之关键字和保留字_标识符_注释
查看>>
Git知识总览(二) git常用命令概览
查看>>
新的移动端框架
查看>>
最近的总结
查看>>