有什么好的方法提高亚马逊 EC2 的上传速度 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Hzzone
V2EX    Amazon Web Services

有什么好的方法提高亚马逊 EC2 的上传速度

  •  
  •   Hzzone 2017-04-24 18:33:43 +08:00 4372 次点击
    这是一个创建于 3096 天前的主题,其中的信息可能已经有所发展或是发生改变。

    穷学生做深度学习,有 80 个 G 的数据需要上传。 阿里云太贵了,所以选择了 AWS...但是速度有点感人... 希望大家能提供一个好的办法!

    15 条回复    2017-04-24 23:08:13 +08:00
    prondtoo
        1
    prondtoo  
       2017-04-24 18:37:50 +08:00 via Android
    没钱还敢用 Aws ?我最怕这种按量收费的东西了
    Hzzone
        2
    Hzzone  
    OP
       2017-04-24 18:45:19 +08:00
    @prondtoo 相对来说 aws 要便宜得多:)
    davidzhanwork
        3
    davidzhanwork  
       2017-04-24 18:48:27 +08:00 via Android
    是本地上传到 ec2 还是 ec2 到其他呢?

    后者可以开个速度快的 vps 中转一下
    lyhiving
        4
    lyhiving  
       2017-04-24 18:48:56 +08:00 via Android
    你的 ec2 在哪个区?最佳方案 GCP 开个 vps ,先将数据传到 GCP ,再同步到 EC2
    davidzhanwork
        5
    davidzhanwork  
       2017-04-24 18:49:02 +08:00 via Android
    后者 -> 前者
    WilliamSang
        6
    WilliamSang  
       2017-04-24 18:51:11 +08:00
    可以使用基于 UDP 的,我以前用过穿过几个 TB 的数据: http://dev.cmcm.com/archives/184
    Hzzone
        7
    Hzzone  
    OP
       2017-04-24 19:07:14 +08:00
    @davidzhanwork 本地到 ec2

    @WilliamSang 看起来很好,我还没试过,谢谢了
    Hzzone
        8
    Hzzone  
    OP
       2017-04-24 19:19:43 +08:00
    @WilliamSang 我是本地传到 ec2...
    WilliamSang
        9
    WilliamSang  
       2017-04-24 19:39:39 +08:00
    @Hzzone 本地有外网 IP 的话很容易的。如果没有。。。
    1. 使用 bz2 压缩,大幅减少体积
    2. 上传到阿里云 OSS ,然后从国外拉取 OSS 数据, 速度可以的
    mianju
        10
    mianju  
       2017-04-24 20:31:02 +08:00
    讲道理 aws 的 g2.2xlarge 速度还没有 750ti 快
    visualwind
        11
    visualwind  
       2017-04-24 20:33:48 +08:00
    shaowsocks+final speed 试试
    Jboys
        12
    Jboys  
       2017-04-24 20:40:55 +08:00
    选个快点的云主机,多压缩跟分片下。挂机。等国外上传完了,再传到 EC2 上,速度杠杠的~
    或者可以按带宽开个国内的云主机,再传出去。开之前先测测速度。
    青云按秒计费。
    zhengxiaowai
        13
    zhengxiaowai  
       2017-04-24 22:15:41 +08:00
    aws 流量可不便宜。
    国外大数据量,我之前是先传到七牛,然后再从七牛下载。。
    Tink
        14
    Tink  
    PRO
       2017-04-24 22:28:58 +08:00 via iPhone
    本地传上去主要看你的上行吧
    Alphabetcn
        15
    Alphabetcn  
       2017-04-24 23:08:13 +08:00 via Android
    学生的话为啥不用教育网的 ipv6 , 100M 上行不能更爽了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     983 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 25ms UTC 18:45 PVG 02:45 LAX 11:45 JFK 14:45
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86