一篇文章教会你利用Python网络爬虫获取Mikan动漫资源

点击上方“IT共享之家”，进行关注

回复“资料”可获赠Python学习福利

【一、项目背景】

[蜜柑计划 - Mikan Project] ：新一代的动漫下载站。是一个专门为喜欢动漫的小伙伴们打造的动漫视频在线播放网站，为大家第一时间分享最新动漫资源，每日精选最优质的动漫推荐。

【二、项目目标】

实现获取动漫种子链接，并下载保存在文档。

【三、涉及的库和网站】涉及的库：requests、lxml、fake_useragent 软件：PyCharm

【四、项目分析】

首先需要解决如何对下一页的网址进行请求的问题。可以点击下一页的按钮，观察到网站的变化分别如下所示：

https://mikanani.me/Home/Classic/1
https://mikanani.me/Home/Classic/2
https://mikanani.me/Home/Classic/3

点击下一页时，每增加一页Classic/()自增加1，用{}代替变换的变量，再用for循环遍历这网址，实现多个网址请求。

【五、反爬措施】

1、获取正常的 http请求头，并在requests请求时设置这些常规的http请求头。

2、使用 fake_useragent ，产生随机的UserAgent进行访问。

【六、项目实施】

1、我们定义一个class类继承object，然后定义init方法继承self，再定义一个主函数main继承self。导入需要的库和网址。import requestsfrom lxml import etreefrom fake_useragent import UserAgent
class Mikan(object): def __init__(self): self.url = "https://mikanani.me/Home/Classic/{}"
def main(self): pass
if __name__ == '__main__': Siper = Mikan() Siper.main()

2、主方法（main）：for循环实现多个网页请求。stat = int(input("start :"))end = int(input(" end:"))for page in range(stat, end + 1): url = self.url.format(page) print(url)

3、随机产生UserAgent。for i in range(1, 50): self.headers = { 'User-Agent': ua.random, }

4、发送请求获取响应, 页面回调，方便下次请求。

def get_page(self, url): res = requests.get(url=url, headers=self.headers) html = res.content.decode("utf-8") return html

5、xpath解析一级页面数据,for循环遍历补全网址，获取二级页面网址。

parse_html = etree.HTML(html)one = parse_html.xpath('//tbody//tr//td[3]/a/@href')for li in one: yr = "https://mikanani.me" + li

6、二级页面请求，先找到页面父节点，for循环遍历，再用path获取到种子的下载地址。补全种子链接地址。

tow = parse_html2.xpath('//body')for i in tow: four = i.xpath('.//p[@class="episode-title"]//text()')[0].strip() fif = i.xpath('.//div[@class="leftbar-nav"]/a[1]/@href')[0].strip() # print(four) t = "https://mikanani.me" + fif print(t)

7、保存在word文档。

dirname = "./种子/" + four[:15] + four[-20:] + '.torrent' # print(dirname) html3 = requests.get(url=t, headers=self.headers).content with open(dirname, 'wb') as f: f.write(html3) print("%s下载成功" % four)

8、调用方法，实现功能。

html = self.get_page(url) self.parse_page(html)

【七、效果展示】

1、运行程序，在控制台输入起始页，终止页，如下图所示。