Oracle 数据库同步问题。 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
xxdd
V2EX    Java

Oracle 数据库同步问题。

  •  
  •   xxdd 2015-09-18 09:12:47 +08:00 3289 次点击
    这是一个创建于 3687 天前的主题,其中的信息可能已经有所发展或是发生改变。

    目前需求是有 2 张表,一张 5000 条左右,一条 1500 条左右。

    要求夜里同步到另一个库。

    现在定时任务和库都连好了。

    想问下 5000 条读出来怎么 insert 进去比较好。

    1.目前想的第一个 List<Map<String,Object>> (一次读 5000 条会不会卡)
    2.分页 200 条 200 条的读 再写。(同步是覆盖操作)
    ( ̄ ̄")

    求指教 怎么读数据再插比较好?
    么么哒(*  ̄ 3 )(ε ̄ *)

    10 条回复    2015-09-18 13:46:05 +08:00
    Muninn
        1
    Muninn  
       2015-09-18 09:36:15 +08:00
    看表的宽度了 不宽完全没问题
    以前我都是每 5 万条插一次.

    不过这种批量的数据转移 为了以后的扩展性 建议不要用 insert

    使用 sqlldr

    那效率 提升几十一百倍问题不大 瞬间就倒完了

    但是难写 java 没接口 只能导出和导入都调用系统工具 中间创建个管道让导出的数据直接通过内存导入
    最后说下来 java 啥作用都没起 用 java c perl python shell 写都一样
    xxdd
        2
    xxdd  
    OP
       2015-09-18 10:30:23 +08:00
    @Muninn 刚刚试了 5000 条 16s 没问题。

    谢啦!!☆⌒(*^-)v
    WordCount
        3
    WordCount  
       2015-09-18 10:41:48 +08:00 via Android
    kettle 也可以。
    Muninn
        4
    Muninn  
       2015-09-18 10:47:52 +08:00
    对了 如果两边都是 oracle 的话 完全没必要 etl
    用 dblink 就好了...
    bigzhu
        5
    bigzhu  
       2015-09-18 11:11:45 +08:00 via Android
    曾经被要求 1 小时内把一张 5 亿数据的表…迁移到另一个 Oracle 数据库的人飘过。
    而且还要求是迁移过去就已经建立好索引了哦。
    spance
        6
    spance  
       2015-09-18 11:20:54 +08:00 via iPhone
    不会有比 dblink 更快更好的方法了
    bugsnail
        7
    bugsnail  
       2015-09-18 12:35:58 +08:00
    @bigzhu 当时有搞定吗?
    bigzhu
        8
    bigzhu  
       2015-09-18 13:20:30 +08:00 via Android
    @bugsnail 有啊…省级系统割接。不搞定不行。用的物化视图。
    idblife
        9
    idblife  
       2015-09-18 13:38:49 +08:00
    这个比较简单,直接用 oracle 游标或者读到内存里再 insert 都不是个事情,话说你试试不就知道了。
    terryhyx
        10
    terryhyx  
       2015-09-18 13:46:05 +08:00
    比较 oracle 的做法应该是 dblink+MV 然后晚上刷新 MV 就好了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1056 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 26ms UTC 18:24 PVG 02:24 LAX 11:24 JFK 14:24
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86