python 爬取微信文章（搜狗为入口）

cnio 发布于2019-07-24 18:27 / 3593人阅读

摘要：本人想搞个采集微信文章的网站，无奈实在从微信本生无法找到入口链接，网上翻看了大量的资料，发现大家的做法总体来说大同小异，都是以搜狗为入口。下文是笔者整理的一份爬取微信文章的代码，有兴趣的欢迎阅读，本人小站喜欢的话可以去首页加官方微信或者。

本人想搞个采集微信文章的网站，无奈实在从微信本生无法找到入口链接，网上翻看了大量的资料，发现大家的做法总体来说大同小异，都是以搜狗为入口。下文是笔者整理的一份python爬取微信文章的代码，有兴趣的欢迎阅读，本人小站：www.quzhuanpan.com喜欢的话可以去首页加官方微信或者qq。
#coding:utf-8
author = "haoning"
**#!/usr/bin/env python
import time
import datetime
import requests**
import json
import sys
reload(sys)
sys.setdefaultencoding( "utf-8" )
import re
import xml.etree.ElementTree as ET
import os
#OPENID = "oIWsFtyel13ZMva1qltQ3pfejlwU"
OPENID = "oIWsFtw_-W2DaHwRz1oGWzL-wF9M&ext"
XML_LIST = []
# get current time in milliseconds
current_milli_time = lambda: int(round(time.time() * 1000))
def get_json(pageIndex):

global OPENID
the_headers = {
"User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36",
"Referer": "http://weixin.sogou.com/gzh?openid={0}".format(OPENID),
"Host": "weixin.sogou.com"
}

url = "http://weixin.sogou.com/gzhjs?cb=sogou.weixin.gzhcb&openid={0}&page={1}&t={2}".format(OPENID, pageIndex, current_milli_time()) #url
print(url)

response = requests.get(url, headers = the_headers)
# TO-DO; check if match the reg
response_text = response.text
print response_text
json_start = response_text.index("sogou.weixin.gzhcb(") + 19
json_end = response_text.index(")") - 2
json_str = response_text[json_start : json_end] #get json
#print(json_str)
# convert json_str to json object
json_obj = json.loads(json_str) #get json obj
# print json_obj["totalPages"]
return json_obj

def add_xml(jsonObj):

global XML_LIST
xmls = jsonObj["items"] #get item
#print type(xmls)
XML_LIST.extend(xmls) #用新列表扩展原来的列表
**[#www.oksousou.com][2]**

# ------------ Main ----------------
print "play it :) "
# get total pages
default_json_obj = get_json(1)
total_pages = 0
total_items = 0
if(default_json_obj):

# add the default xmls
add_xml(default_json_obj)
# get the rest items
total_pages = default_json_obj["totalPages"]
total_items = default_json_obj["totalItems"]
print total_pages
# iterate all pages
if(total_pages >= 2):
    for pageIndex in range(2, total_pages + 1):
        add_xml(get_json(pageIndex)) #extend
        print "load page " + str(pageIndex)
        print len(XML_LIST)

云服务器 GPU云服务器搜狗微信 asp采集微信文章微信管理系统登录入口 python爬取

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/37760.html

python itchat 爬取微信好友信息

摘要：原文链接一个开源的微信个人接口，今天我们就用爬取微信好友信息，无图言虚空三张图分别是微信好友头像拼接图性别统计图个性签名统计图微信好友头像拼接图性别统计图个性签名统计图安装主要用到的方法微信扫描二维码登录返回完整的好友列表，每个好友为一个字原文链接：https://mp.weixin.qq.com/s/4EXgR4GkriTnAzVxluJxmg 「itchat」一个开源的微信个人...

huaixiaoz 2019-07-30 16:45 评论0 收藏0
23个Python爬虫开源项目代码，包含微信、淘宝、豆瓣、知乎、微博等

摘要：今天为大家整理了个爬虫项目。地址新浪微博爬虫主要爬取新浪微博用户的个人信息微博信息粉丝和关注。代码获取新浪微博进行登录，可通过多账号登录来防止新浪的反扒。涵盖链家爬虫一文的全部代码，包括链家模拟登录代码。支持微博知乎豆瓣。 showImg(https://segmentfault.com/img/remote/1460000018452185?w=1000&h=667); 今天为大家整...

jlanglang 2019-07-31 10:09 评论0 收藏0
首次公开，整理12年积累的博客收藏夹，零距离展示《收藏夹吃灰》系列博客

摘要：时间永远都过得那么快，一晃从年注册，到现在已经过去了年那些被我藏在收藏夹吃灰的文章，已经太多了，是时候把他们整理一下了。那是因为收藏夹太乱，橡皮擦给设置私密了，不收拾不好看呀。 ...

Harriet666 2021-09-10 10:51 评论0 收藏0
爬虫爬取微信小程序

摘要：之前打算做个微信小程序的社区，所以写了爬虫去爬取微信小程序，后面发现做微信小程序没有前途，就把原来的项目废弃了做了现在的网站观点不过代码放着也是放着，还不如公开让大家用，所以我把代码贴出来，有需要的复制了使用就是了。之前打算做个微信小程序的社区，所以写了爬虫去爬取微信小程序，后面发现做微信小程序没有前途，就把原来的项目废弃了做了现在的网站观点,不过代码放着也是放着，还不如公开让大家用...

qianfeng 2019-07-30 15:21 评论0 收藏0
Scrapy学习（四） 爬取微博数据

摘要：爬虫目标是获取用户的微博数关注数粉丝数。创建数据这部分我只需要个人信息，微博数，关注数分数数这些基本信息就行。前言 Scrapy学习（三）爬取豆瓣图书信息接上篇之后。这次来爬取需要登录才能访问的微博。爬虫目标是获取用户的微博数、关注数、粉丝数。为建立用户关系图(尚未实现)做数据储备准备安装第三方库requests和pymongo 安装MongoDB 创建一个weibo爬虫项...

LiveVideoStack 2019-07-25 11:29 评论0 收藏0