Awesome

checkgoogleip

主要是用来检查哪些IP可以用在goagent上面

检查方法

• 默认使用内置的ssl库连接到该IP,并使用cacert.pem来获取服务器证书，可以通过修改变量来支持pyOpenSSL库获取服务器证书，
• 检查该 IP是否使用google.com的证书,如果不是该域名，则发送http请求，然后检查回应头部的Server是否为gws
• 以响应时间排序，时间越少，排序就越前

注意

• IP组的格式
  1.xxx.xxx.xxx.xxx-xx.xxx.xxx.xxx
  如218.253.0.80-218.253.0.90
  2.xxx.xxx.xxx.xxx/xx
  如218.253.0.80/24
  3.xxx.xxx.xxx.
  如218.253.0.
  4.xxx.xxx.xxx.xxx
  如218.253.0.80
  组与组之间可以用换行、'|'或','相隔开
• connect超时时间可以看g_commtimeout变量，时间为5秒，握手超时请看g_handshaketimeout，时间为7秒
• 默认会尝试使用gevent及内置的ssl库查询，好处：明显优化cpu及内存使用，最大线程数量限制了128条，可以支持pyOpenSSL库，但需要设置g_usegevent为0
• 默认增加一些IP段检查，并且只随机检查700个IP
• 默认会保存测试IP的结果到ip_tmperror.txt（失败）、ip_tmpno.txt(非gae可用IP），ip_tmpok.txt（gae可用IP），下次运行脚本时会预先读取，并会跳过ip_tmperror.txt与ip_tmpno.txt的查询，如果不想保留ip_tmperror.txt，则g_autodeltmperrorfile为1，如果不想保留ip_tmpno.txt，则需要设置g_autodeltmpnofile=1，如果程序正常运行结束，则会检查g_autodeltmperrorfile及g_autodeltmpnofile，并执行对应的操作，如果程序运行异常，需要关闭程序，则会保留这两个文件
• 增加gogotest里面的部分IP列表，特别感谢该开发者
• 程序在启动时会优先读取ip_tmpok.txt检查，如果不想优先检查，可以设置g_checklastgoogleipfirst为0
• 程序在正常结束时会对ip_tmpok.txt的结果进行排序，当次没有检查到的IP时排在最后，第二列是时间值，以NA_开头（表示当次查询超时或没检查到），如果不想对文件排序，可以设置 g_needsorttmpokfile为0
• 设置默认线程为60(g_maxthreads),默认最大IP延时1500毫秒（g_maxhandletimeout），默认检查可用IP数50(g_maxhandleipcnt)
• 程序支持优先读取外部IP列表，文件名为googleip.txt,当这个文件存在时，默认不会读取脚本里面的IP列表，如果需要检查里面的IP列表，可以在新一行中填写@default，表示读取脚本预设IP列表
• 检查SSL证书时，需要检查organizationName为google Inc,其他内容暂时被认为非google ip，如果有其他名称也可用，可以在g_organizationName中添加
• 解决使用OpenSSL检查IP时,Ctrl-C无响应的情况
• 命令增加IP参数，用来检查该IP的ssl证书的情况

python checkip.py xxx.xxx.xxx.xxx
use gevent to check  xxx.xxx.xxx.xxx
try connect to xxx.xxx.xxx.xxx
ssl subject:  ((('countryName', u'US'),), (('stateOrProvinceName', u'California'
),), (('localityName', u'Mountain View'),), (('organizationName', u'Google Inc')
,), (('commonName', u'google.com'),))
Exception KeyError: KeyError(41875536,) in <module 'threading' from 'D:\Python27
\lib\threading.pyc'> ignored

• 增加IP黑名单配置，暂时把216开头的IP屏蔽
  g_blackiplist = ("216.",)

使用方法

windows

可以放在把checkip.py与checkip.bat放在goagent/local目录下面，由于cacert.pem是取自goagent/local目录里面的同名文件，因此不需要复制cacert.pem到该目录，然后执行checkip.bat
如果执行成功，会在该目录新建一个ip.txt文件，里面的IP列表就是可用列表,ip_tmperror.txt会保留查询失败的IP，ip_tmpok.txt会保留查询成功的IP

linux

把checkip.py与cacert.pem放在同一个目录，然后执行 python checkip.py 即可

由于开发时主要用python2.7版本，暂时不支持python3版本

更新说明

2014.08.13

• 支持只保留小于最大延时的IP，支持只获取指定数量的IP列表

2014.06.27

• 优化查询可用IP，支持随机查询IP

2014.06.13

• 使用两个临时文件来记录程序运行过程中查询成功与失败的IP地址，方便下次使用
• 支持gevent,但只能在关闭pyOpenSSL库时使用
• 支持多进程方式，在pyOpenSSL库下默认使用，在gevent下禁用

2014.06.07

• 优化线程队列的使用
• 默认会尝试使用pyOpenSSL库，支持高并发量，并且有效地优化cpu及内存使用，程序在启动时cpu较高，几秒后会降下来
• 设置默认线程的stack大小，减少内存消耗

2014.06.06

• 使用队列来控制线程数量，默认改为256条线程，测试发现超过378条线程时，在windows中出现部分线程加载证书出错
• g_ssldomain 使用元组类型，检查多种域名的证书