除了从文件加载数据,另一个数据源是互联网,互联网每天产生各种不同的数据,可以用各种各样的方式从互联网加载数据。
一、了解 Web API
Web 应用编程接口(API)自动请求网站的特定信息,再对这些信息进行可视化。每次运行,都会获取最新的数据来生成可视化,因此即便网络上的数据瞬息万变,它呈现的信息也都是最新的。
Web API是网站的一部分,用于与使用非常具体的URL请求特定信息的程序交互。这种请求称为API调用。请求的数据将以易于处理的格式(如JSON或CSV)返回。
GitHub(https://github.com/)上的项目都存储在仓库中,后者包含与项目相关联的一切:代码、项目参与者的信息、问题或bug报告等,编写一个自动下载GitHub上的Python项目的相关信息。
在浏览器中打开: https://api.github.com/search/repositories?q=language:python&sort=stars,可以看到如下内容,
此调用返回GitHub当前托管了total_count 8884066个Python项目,还有最受欢迎的Python仓库的信息。
其中第一部分( https://api.github.com/ )将请求发送到GitHub网站中响应API调用的部分;
第二部分( search/repositories )让API搜索GitHub上的所有仓库。
repositories 后面的问号指出我们要传递一个实参。 q 表示查询,而等号让我们能够开始指定
查询( q= )。通过使用 language:python ,我们指出只想获取主要语言为Python的仓库的信息。
最后一部分( &sort=stars )指定将项目按其获得的星级进行排序。
但我们不能每次通过打开网页的形式来获取数据。但可以通过python中相关库
二、安装 requests
requests是一个很实用的Python HTTP客户端库,专门用于发送HTTP请求,方便编程,编写爬虫和测试服务器响应数据时经常会用到,
Requests主要相关参数有:
r.status_code 响应状态码
r.heards 响应头
r.cookies 响应cookies
r.text 响应文本
r. encoding 当前编码
r. content 以字节形式(二进制)返回
鉴于一直都使用的是anaconda3,可直接打开 anaconda prompt,然后输入命令:pip install –user requests 安装即可。
下面来编写一个程序,执行API调用并处理结果,找出GitHub上星级最高的Python项目,代码如下:
import requests # 导入模块requests url='https://api.github.com/search/repositories?q=language:python&sort=stars'#存储API调用的URL r = requests.get(url) # 调用get()并将URL传递给它,响应对象存储在变量 r中 print("Status code:",r.status_code) #包含一个名为status_code的属性 response_dict = r.json() # 使用方法json()将这些信息转换为一个Python字典 print(response_dict.keys()) #打印出字典的key
上述代码有两行打印,运行结果如下:
Status code: 200 dict_keys(['total_count', 'incomplete_results', 'items'])
状态码为200,请求成功。响应字典包含三个键: ‘total_count’和 ‘incomplete_results’和 ‘items’
将API调用返回的信息存储到字典中,就可以利用前面了解的字典的键-值对来研究自己喜欢的信息了。
三、整理字典中的信息
上述代码response_dict = r.json()实际上已将请求信息转为字典,那查看一下字典里有些什么内容。
从浏览器中打开的内容可以看到,返回的内容中是字典中包含字典
(items是作为最上那个大括号中的key,对应的值,是由多个字典组成的字典列表,‘id’,‘node_id’,‘name’等也是items列表中第一子字典的key,见红色方框部分,列表字典等相互嵌套,好好分析一下)。
1)先看一下与 ‘total_count’关联的值
print("Total repositories:", response_dict['total_count'])
2)items本身是一个字典,‘id’,‘node_id’,‘name’等均是key,后面对应的都是值,可以查一下有多少个key
repo_dicts = response_dict['items'] #建一个变量字典repo_dicts,将items字典列表存储在 repo_dicts print("Repositories returned:", len(repo_dicts))# 打 repo_dicts的长度,获得item字典的长度信息
3)查看第一个item的详细信息,并打印出所有key
repo_dict = repo_dicts[0] #提取了repo_dicts中的第一个字典 print("/nKeys:", len(repo_dict)) #打印这个字典包含的键数 print("/n") for key in repo_dict.keys():#打印这个字典的所有键 print(key)
整体运行结果(下图白色部分为浏览器打开):
思考一下,为什么图中的Total repositories一个是9037884,另一个为9145790,两者不一致?
有了key,就很容易查询到相关的值了(当然这里都是字符串,如果是数字型的就能可视化)
四,数字可视化
通过浏览器打开页面,会发现”forks”: 32471, “open_issues”: 305, “watchers”: 177777等有相关数据,于是,可以通过对应的key,将相关数据整合成一个数据列表,然后显示出来,比如可视化wathers
count=0 watchers, counts= [], [] for repo_dict in repo_dicts: watchers.append(repo_dict['watchers']) count += 1 counts.append(count) plt.bar(counts,watchers, label="watchers", color='#ff2204') plt.legend() plt.show()
运行结果:
五、数据可视化的小总结:
matplotlib中数据可视化的方法主要就是调用pyplot接口,再直接调用对象的建立方法,在方法中对该对象进行相应的属性设置,所以掌握这种方法的核心就在于掌握每种对象的建立方法和具体参数设置。Python数据可视化的难处在于掌握参数的设置,内置的参数虽然很多,但一般都用不上(可以留着慢慢钻研),将用得上的参数和参数值几何整理下来,做到这样,对于Python的可视化学习暂时足矣。剩下的时间该去学习其他更为有用的!
简而化之,
曲线图 plt.plot(squares, linewidth=5) 只需要提供一组数据即可
散点图 plt.scatter(x, y,c=’r’,edgecolor=’none’,s=100) ,x,y分别为x轴,y轴坐标位置,x,y对应
柱图 plt.bar(x,y, label=”Test one”, color=’r’) x为x轴位置,y为值,x如为数列,则y对应相同长度
柱图 plt.hist(list, bins, histtype=’bar’, rwidth=0.8,color=’r’) bins为柱图划分范围,表现在x轴上,list为数列,显示在y 轴
饼图 plt.pie(slices) slices 为一数列
堆叠图 plt.stackplot(days, times,labels=labellist,colors=colorlist) days为一维数列,times为一维或多维数列,每一维数列元素个数与days一样。