具体不表，我今天要做的工作就是: 需要将数据库中大量ip查询出起归属地
刚开始感觉好简单啊，毕竟只需要从百度找个免费接口然后来个python脚本跑一晚上就ok了嘛~但是，网上免费接口要么限制访问频率(淘宝的)，要么限制访问次数(百度及其他)
没辙了，从百度找到了几个在线查询的接口，要么不够准确(或者说她们的数据库太旧了)，要么就是速度太慢了，跟限制访问似的(没办法,小规模人家的服务器的确不够好)
于是乎就想到了百度首页的ip接口，就这货：
为了防止泄露隐私，其中ip地址信息已经在控制台稍作修改
随便输入一个ip，点击查询
没想到，百度的接口竟然就这么暴露出来了，如此简单，试试能不能直接用
ip00.py
from pprint import pprintimport requests res = requests.get( 'https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=112.53.65.12&co=&resource_id=6006&t=1551419352431&ie=utf8&oe=gbk&cb=op_aladdin_callback&format=json&tn=baidu&cb=jQuery110200929818675063574_1551418734860&_=1551418734868') pprint(res.text)
返回结果:
('/**/jQuery110200929818675063574_1551418734860({"status":"0","t":"1551419352431","set_cache_time":"","data":[{"location":"山东省青岛市 '
'移动","titlecont":"IP地址查询","origip":"112.53.65.12","origipquery":"112.53.65.12","showlamp":"1","showLikeShare":1,"shareImage":1,"ExtendedLocation":"","OriginQuery":"112.53.65.12","tplt":"ip","resourceid":"6006","fetchkey":"112.53.65.12","appinfo":"","role_id":0,"disp_type":0}]});')
与浏览器访问返回结果一样,这个太出乎意料了,好吧,b厂还是留了点情面的,可是他们家的接口只能按年来买,大概要999RMB/年
再测试一下换个 ip 地址继续查询还能不能查到结果(防止后面的数据是加密的)
这个呢,其实最好的办法是在浏览器中进行测试,换个ip看一下控制台的url会不会有变化(主要是后面的参数),可能会存在加密数据,其实这个我测试了,会有一个参数变化 ,但是我重复提交时没发生改变一样能够请求数据,几乎就可以说明这个参数是迷惑用的(也可能是时间戳吧,我忘了具体什么参数了.时间戳的话就更好了,为了防止浏览器有缓存的)
ip01.py
from pprint import pprintimport requests res = requests.get( 'https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=112.53.54.12&co=&resource_id=6006&t=1551419352431&ie=utf8&oe=gbk&cb=op_aladdin_callback&format=json&tn=baidu&cb=jQuery110200929818675063574_1551418734860&_=1551418734868') pprint(res.text)
返回结果:
('/**/jQuery110200929818675063574_1551418734860({"status":"0","t":"1551419352431","set_cache_time":"","data":[{"location":"广东省 '
'移动","titlecont":"IP地址查询","origip":"112.53.54.12","origipquery":"112.53.54.12","showlamp":"1","showLikeShare":1,"shareImage":1,"ExtendedLocation":"","OriginQuery":"112.53.54.12","tplt":"ip","resourceid":"6006","fetchkey":"112.53.54.12","appinfo":"","role_id":0,"disp_type":0}]});')
ok，数据更换ip也是没有问题的，也不需要伪装agent
那么我们来尝试一下访问频率有没有限制：
这里先为大家介绍一个库：faker
这是一个python造假用的库，可以生成很多测试数据，姓名地址电话等等信息
这里推荐一位陌生老哥的博客：https://www.cnblogs.com/blueteer/p/10277725.html 如果不知道这个库，可以看一眼下面的小demo:
faker_test.py
from faker import Faker
f = Faker('zh-CN')print(f.ipv4())
返回结果:
101.208.5.200
这段代码就这点功能，就是可以生成随机ip地址
ip02.py
from pprint import pprintimport requestsfrom faker import Faker
f = Faker('zh-CN')for i in range(100):
ip = f.ipv4()
res = requests.get('https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=' + ip + '&co=&resource_id=6006&t'
'=1551419352431&ie=utf8&oe=gbk&cb=op_aladdin_callback&format=json&tn=baidu&cb'
'=jQuery110200929818675063574_1551418734860&_=1551418734868')
pprint(res.text)
这里稍微整理了一下url，就是换了个行而已
返回结果（太多了，截个图意思意思）
速度挺快，待会儿再测试一下它的耗时到底有多少
数据杂乱不好整理，直接来个简单粗暴的分割字符串吧：
稍作修改后：
ip03.py
import requestsfrom faker import Faker
f = Faker('zh-CN')for i in range(100):
ip = f.ipv4()
res = requests.get('https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=' + ip + '&co=&resource_id=6006&t'
'=1551419352431&ie=utf8&oe=gbk&cb=op_aladdin_callback&format=json&tn=baidu&cb'
'=jQuery110200929818675063574_1551418734860&_=1551418734868')
text = res.text
location = text.split('location":"')[1].split('","titlecont')[0] print(location)
吓死我了，刚才断网了，我还以为百度的这条路只能走这么远了呢，毕竟我上午已经弄了不少数据了，下午就不行的话,我这一上午岂不是白瞎了。
返回结果
澳大利亚 澳大利亚 广东省 电信 韩国 美国 美国 美国 比利时 美国 美国 ...后面的不发了，太长了
最后，来计个时
ip04.py
from time import timeimport requestsfrom faker import Faker# 获取当前秒级时间戳t1 = int(time())
f = Faker('zh-CN')for i in range(100):
ip = f.ipv4()
res = requests.get( 'https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=' + ip + '&co=&resource_id=6006&t'
'=1551419352431&ie=utf8&oe=gbk&cb=op_aladdin_callback&format=json&tn=baidu&cb'
'=jQuery110200929818675063574_1551418734860&_=1551418734868')
text = res.text
location = text.split('location":"')[1].split('","titlecont')[0] print(location)
t2 = int(time())print(t2 - t1)
返回结果：
...美国 美国 美国 荷兰 美国 美国 澳大利亚 澳大利亚 19
还不错吧，100个耗时19秒，想要更快可以试试java或者多线程吧,反证我就用这一次,而且也不赶时间，估计今晚就把我那些数据搞定了
最后娱乐一下，缩减一下代码行数（计时就去掉了，反正对我也没什么实际用途）
import requests;from faker import Faker;f = Faker('zh-CN');print([requests.get('https://sp0.baidu.com/8aQDcjqpAAV3otqbppnN2DJv/api.php?query=' + f.ipv4() +'&resource_id=6006&_='+str(i)).text.split('ation":"')[1].split('","tit')[0] for i in range(10)])
这里主要是精简了一部分url,不知道修改后还好不好使了