一.介绍
背景:目前在开发一个爬虫框架,使用了.net core webapi接口作为爬虫调用入口,在调用 webapi时发现爬虫耗时很短(1秒左右),但客户端获取响应时间却在3~4秒。对于这个问题考虑使用响应压缩技术。
网络带宽是一种有限资源。 减小响应大小通常可显著提高应用的响应速度。 减小有效负载大小的一种方式是压缩应用的响应。
在 IIS、Apache 或 Nginx 中是使用基于服务器的响应压缩技术。考虑到动态压缩以及减少服务器的配置,这里介绍.net core中间件来实现响应压缩。
压缩的事项:
1)能够压缩的包括:CSS、JavaScript、HTML、XML 和 JSON。
2)对图片等资产不会压缩,因为压缩的字节只会小幅减少,而被处理压缩所花费的时间所掩盖。
3)不要压缩小于约 150-1000 字节的文件。
4)客户端请求时通过Accept-Encoding来指定压缩类型,中间件支持二种常用的压缩类型如下:
Accept-Encoding: br,gzip --br是指Brotli 压缩格式,默认的压缩方式。 --gzip是指Gzip压缩格式。
5)中间件为压缩指定一组默认的 MIME 类型:
application/javascript
application/json
application/xml
text/css
text/html
text/json
text/plain
text/xml
具体介绍看官方文档:https://docs.microsoft.com/zh-cn/aspnet/core/performance/response-compression?view=aspnetcore-5.0
二. 配置压缩中间件
使用压缩中间件很简单,代码如下:
public class Startup { public void ConfigureServices(IServiceCollection services) { services.AddResponseCompression(); } public void Configure(IApplicationBuilder app, IHostingEnvironment env) { app.UseResponseCompression(); } }
三.演示
客户端请求可以是Postman,Fiddler, RestSharp等,下面使用RestSharp来请求爬虫接口获取数据,默认RestSharp请求头带了Accept-Encoding: gzip, deflate
3.1 未使用响应压缩技术,请求使用fiddler监听
1)请求头statistics选项卡中,接口耗时4.822秒
2) 响应Transformer选项卡中,响应字节572,839
3) 响应TextView能直接看到明文
3.2 使用响应压缩技术,请求使用fiddler监听
1)请求头statistics选项卡中,接口耗时1.182秒
2) 响应Transformer选项卡中,响应字节98,930
3) 响应TextView选项卡中,不能直接看到明文
4)响应Headers选项卡中,Content-Encoding:gzip