一个扒雷达数据的爬虫🐞

实验室同学需要,帮他写的一个扒取网页数据的小脚本。网页比较简单,是一个很普通的静态页面。

github:https://github.com/finalObject/wormForRadar

在网页上进行请求之后可以发现,其实需要的网页就是一个按照请求数据的日期组织的一个链接,所以基本思路就是根据当天日期生成昨天两个时间点的链接,请求之后解析需要的字段,追加到http://finalobject.cn/zju/wyoming-data.txt文件里就行。

直接给这个脚本添加执行权限,然后放到服务器的/root/bin/目录下

执行

crontab是一个linux下管理定时任务的软件,-e代表编辑配置文件,输入如下内容

如果只输入第三行,貌似很容易出现问题,所以最好还是配置一下shell和path。一开始写的是12点执行一次,但是今天第一天运行的时候,发现返回了一个503错误,百度之后发现说是对方服务器的问题,担心可能是整点时间下对面服务器也在更新数据什么的,所以的脚本执行时间往后延迟了15分钟。

默认情况下可以使用

来查看定时程序的输出信息,可以用来排错。

后续如果没有问题就不来更新了,如果明天还是不能正常执行,会进行后续的更新。可以考虑对原来python脚本里面的服务器请求进行异常处理,不停请求直到正常为止。

0

发表评论

电子邮件地址不会被公开。 必填项已用*标注