今天尝试爬取新浪微博，但是爬取下来网页的源代码，以html形式打开却发现没有内容，如下图：
爬取新浪网站却不显示内容-小白菜博客
我查阅了一些资料，发现微博这种主流网页一般都是动态网页，都普遍采用了ajax加载数据，如果我用传统的爬虫post一个url或请求参过去，那么我接受相应的html代码会没有我想要的数据。
而抓取动态页面有两种常用的方法，一是通过JavaScript逆向工程获取动态数据接口（真实的访问路径），另一种是利用selenium库模拟真实浏览器，获取JavaScript渲染后的内容。
我之后以爬取新浪为例再把实践发表成博客。