python爬虫入门笔记--知乎发现(爬取失败了)

import urllib.request
import urllib.parse
#401 Unauthorized客户试图未经授权访问受密码保护的页面 所以爬取失败了
url = 'https://www.zhihu.com/api/v3/feed/topstory/recommend?session_token=5ad2f1226d859b5abf6d7d214140e78f&desktop=true&page_number=4&limit=6&action=down&after_id=17 '
page = int(input('请输入你要查找的页数:'))

# page  5    2
# page  11   3
# page  17   4
# page  23   5


form_data={
    'session_token': '5ad2f1226d859b5abf6d7d214140e78f',
    'desktop': 'true',
    'page_number': page+1,
    'limit': '6',
    'action': 'down',
    'after_id': (page*6)-1,
}
headers={
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36',

}

request = urllib.request.Request(url = url,headers = headers)
form_data = urllib.parse.urlencode(form_data).encode()
response = urllib.request.urlopen(request,data=form_data)
print(response.read().decode())
# with open('北京大学微博.html','wb')as fp:
#     fp.write(response.read())
全部评论

相关推荐

🎓学历背景:末二本+北邮硕想找段日常 是简历写的有问题吗 目前有家100-499的小厂过了,但大厂现在一个都没面过,官网投递一直在筛简历
牛客44176770...:我也28届,也是投了一个多月,四月底投的,面了6.7场,有个大厂,没结果应该是挂了,有三个小厂面试的很顺利,结果没下文了,互联网我恨你!这五月我时间都在投简历和改简历上了,结果没啥收获,算法也没刷,因为约的面试都没有算法索性就只看项目和八股唉,真的好累啊
我的简历长这样
点赞 评论 收藏
分享
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务