抓取全国的特价机票信息,有几种方法? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
NFSwind
V2EX    数据库

抓取全国的特价机票信息,有几种方法?

  •  
  •   NFSwind 2013-10-01 03:23:09 +08:00 2136 次点击
    这是一个创建于 4468 天前的主题,其中的信息可能已经有所发展或是发生改变。
    人在大连。。
    发现
    大连飞天津64块钱、大连飞石家庄9块钱。。

    于是萌生了一个想法,抓取全国的特价机票信息。。

    放在网上以飨大众。。。

    方法1,获取去哪儿网,携程网,艺龙旅行等主流站点的页面信息
    方法2,获取各大航空公司的信息,不过这样应该是会贵一些的。。。

    大家有什么想说的?
    10 条回复    1970-01-01 08:00:00 +08:00
    ivanlw
        1
    ivanlw  
       2013-10-01 04:56:52 +08:00 via iPhone
    为什么不直接用去哪儿的?
    yelite
        2
    yelite  
       2013-10-01 10:01:12 +08:00
    @ivanlw lz可能是想实时监控票价吧。

    方法一我感觉有难度啊,这些主流站点应该都有反抓取的机制,不过既然是能用浏览器看到的东西最后肯定都能抓下来,就是可能要花上一段时间研究。
    AlexYang
        3
    AlexYang  
       2013-10-01 10:21:17 +08:00
    这些旅游网站的航班信息都是花钱从某某机构买的
    loveminds
        4
    loveminds  
       2013-10-01 15:15:40 +08:00 via Android
    @ivanlw 有直接使用的api不
    cj1324
        5
    cj1324  
       2013-10-01 15:49:19 +08:00
    某些网站,页面上标的价格比实际价格低很多。 你想买的时候才发现 你妹啊 根本不能买。
    打了客服电话回复,那些票需要同时买往返才有效。
    NFSwind
        6
    NFSwind  
    OP
       2013-10-01 16:18:06 +08:00
    @cj1324 这种最蛋疼了。。。
    forgottencoast
        7
    forgottencoast  
       2013-10-01 20:35:34 +08:00
    @yelite 非API的维护工作量太大。我做了一个类库,可以完全基于xml的配置模拟Http请求,包括很复杂的流程,甚至支持验证码。这样我们公司可以往别的类型的网站提交复杂的数据。但是一旦别人改版,少则一两个小时,大就要1~2天才能匹配成功。我们的代码完全不用修改,只是修改xml配置文件而以。
    6b79
        8
    6b79  
       2013-10-02 13:43:59 +08:00
    @forgottencoast 请问每次抓取网站改版,你的xml配置修改的工作量有多少?
    chendeshen
        9
    chendeshen  
       2013-10-03 00:04:44 +08:00
    forgottencoast
        10
    forgottencoast  
       2013-10-22 23:57:20 +08:00
    @6b79 我们不是抓取,我们是提交数据,很复杂的数据到对方网站。工作量视对方修改的大小。主要的工作量在于隐藏的字段是否要提交,以及如何生成。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5664 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 48ms UTC 03:00 PVG 11:00 LAX 19:00 JFK 22:00
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86