Python基于pandas爬取网页表格数据

Odessa ·

更新时间:2024-09-21

· 841 次阅读

以网页表格为例：https://www.kuaidaili.com/free/

该网站数据存在table标签，直接用requests，需要结合bs4解析正则/xpath/lxml等，没有几行代码是搞不定的。

今天介绍的黑科技是pandas自带爬虫功能，pd.read_html()，只需传人url，一行代码搞定。

原网页结构如下：

python代码如下：


import pandas as pd
url='http://www.kuaidaili.com/free/'
df=pd.read_html(url)[0] 
# [0]：表示第一个table，多个table需要指定，如果不指定默认第一个
# 如果没有【0】，输入dataframe格式组成的list
df

输出dataframe格式数据

再次保存到本地，csv格式，注意中文编码：utf_8_sig

print(type(df))df.to_csv('free ip.csv',mode='a', encoding='utf_8_sig', header=1, index=0)print('done!')

查看csv文件

先来了解一下read_html函数的api:

pandas.read_html(io, match='.+', flavor=None, header=None, index_col=None, skiprows=None, attrs=None, parse_dates=False, tupleize_cols=None, thousands=', ', encoding=None, decimal='.', converters=None, na_values=None, keep_default_na=True, displayed_only=True)

常用的参数：

io:可以是url、html文本、本地文件等； flavor：解析器； header：标题行； skiprows：跳过的行； attrs：属性，比如 attrs = {'id': 'table'}； parse_dates：解析日期

注意：返回的结果是**DataFrame**组成的**list**。

若要dataframe，直接取list【0】

您可能感兴趣的文章:python pandas.DataFrame.loc函数使用详解python pandas利用fillna方法实现部分自动填充功能python pandas移动窗口函数rolling的用法Python pandas库中的isnull()详解浅谈python已知元素,获取元素索引(numpy,pandas)Python pandas RFM模型应用实例详解Python使用Pandas读写Excel实例解析

页表表格数据 pandas Python

1024 个赞