越来越多的 ai 内容会不会逐渐导致模型崩塌,从而让人类难以进步? - V2EX
S1ngleton

越来越多的 ai 内容会不会逐渐导致模型崩塌,从而让人类难以进步?

  •  
  •   S1ngleton Apr 3 via iPhone 2363 views
    This topic created in 47 days ago, the information mentioned may be changed or developed.
    这个想法其实是从前年用 langchain 做一些 ai 项目时候想到的,首先楼主并不属于 ai 的构造者,而是使用者,所以内容有可能不准确,欢迎指正。

    关于现在的 ai ,产生了以下判断:
    1. 世界上逐渐越来越多 ai 产生内容,这一点毋庸置疑。
    2. 另外有所了解,一般 ai 用自己的东西训练自己会导致性能越来越差。
    3. AI 能够帮助越来越多人输出内容,就导致人类这个“巨大的 AI”越来越少机会去输出内容训练当前的 ai 了。


    不知道大家如何看?
    16 replies    2026-04-03 14:08:33 +08:00
    beasnail
        1
    beasnail  
       
    训练 ai 最终靠人,我觉得人会筛选新的好的数据去训练的,不会草率自动抓取不挑选
    940i3s34v4F1HW41
        2
    940i3s34v4F1HW41  
    PRO
       Apr 3 via iPhone
    一直会是人与 AI 相辅相成
    SiWXie
        3
    SiWXie  
       Apr 3 via iPhone
    计算器出现使你不会算数了吗 ,或者智商倒退了吗
    beyondstars
        4
    beyondstars  
       Apr 3
    那问题来了,用户和 LLM 交互的数据这个也能 AI 生成吗? AI 再怎么强,总得有人去用吧,这个和真人交互的日志记录不能算是 AI 内容吧?
    streamrx
        5
    streamrx  
       Apr 3 via iPhone
    不会
    S1ngleton
        6
    S1ngleton  
    OP
       Apr 3 via iPhone
    @beasnail 但是如果大多人都在用 ai 生成内容的时候,真正人产生的数据就少之又少了

    @sddyzm 如果是这样,那当然最好,就怕是人类完全依赖 ai 去输出

    @SiWXie 不是对人,是对 ai

    @beyondstars 我的理解是:这个更多是提问或者需求命令吧?高质量的人类文档知识产出会变少了
    chenliangngng
        7
    chenliangngng  
       Apr 3   1
    对人类来说,人类语言收录的“新”的东西一直都只是一小部分人创造的,顶级学者、艺术家、哲学家、政治家等等,其他的人所做的事情,不过就是重复重复重复,ai 现在也充当了这个复读机的作用
    wat4me
        8
    wat4me  
       Apr 3
    大部分人干的事也不会推动人类进步
        9
    catazshadow  
       Apr 3 via Android
    会的,人类文明会两极分化然后崩溃。

    无法产生原创思想的大多数人会被 LLM 打压,少数精英能够掌控 LLM ,两种人越走越远,最后产生冲突
    syntaxj
        10
    syntaxj  
       Apr 3
    想多了 人类进步跟普通人没关系 基本上是另一个物种
    levn
        11
    levn  
       Apr 3
    模型还没有开始全自主导的训练 还需要训练者的干预
    gumayusi
        12
    gumayusi  
       Apr 3
    @SiWXie 如果计算器把自己的生成结果不停地塞进互联网,让互联网上充斥着重复的 8×9=72 、sin30°=1/2 这种正确但是冗余的数据(这还是确定性的计算机,你让有幻觉的 LLM 来干,它可能偶尔往互联网里塞一条 8×9=sin30°),那迟早让互联网用户的智商集体下降,毕竟人类的 CPU 主频太低,当互联网信息密度过低时,人类是无法吸收的,就像把一顿饭倒进一锅汤里,你要吸取一顿饭的营养至少得把整锅汤喝一遍。
    SiWXie
        13
    SiWXie  
       Apr 3
    @gumayusi #12 你说的这种假设实际已经出现了,你把人想象成 Agent ,这些 Agent 在网络上发布了大量不真实的信息(或者说无用的信息),我们接入互联网后,不断与这些信息进行交互,我没感觉到现在的人类智商有所下降,因为我们拥有个人思想与集体思想,它指导我们去识别什么是正确的,什么是虚假的。工具在帮我们筛选最有效的信息,例如搜索引擎推荐的大多数是点赞数量最多的,而非无人理睬的。目前的 LLM 也在做这件事,它收集信息是经过大多数人验证的
    catazshadow
        14
    catazshadow  
       Apr 3 via Android
    @SiWXie 集体思想恰恰是制造弱智的
    THESDZ
        15
    THESDZ  
       Apr 3
    目前 AI 仍然是“经验”形的。无法“创造”超出人类想象边界的东西。
    等 AI 进化到能够“真随机”且对“随机结果”进行择优的时候,大概率就会取代了,那么我想问:择优有场景,才能择。那场景是什么呢?
    Alias4ck
        16
    Alias4ck  
       Apr 3
    AI 只会让一个事情越来越明显,越小众,越低概率的事情越不会出现了, 少数人发出的声音听不到了
    未来感觉大家会有三体的思想钢印, 真就复古了哈哈哈
    About     Help     Advertise     Blog     API     FAQ     Solana     5199 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 63ms UTC 07:47 PVG 15:47 LAX 00:47 JFK 03:47
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86