面向普通大众,把 ai 宣传的过于完美,是不是也逐渐成为了一个毒瘤? - V2EX
leglo

面向普通大众,把 ai 宣传的过于完美,是不是也逐渐成为了一个毒瘤?

  •  
  •   leglo 13 days ago 1972 views

    现阶段 Ai 真不适合向普通人普及,特别是宣传的 Ai 好像无所不能,有什么问题都来问 ai ,对于对 ai 原理了解不够,或者没有概念的人,真的会 ai 说什么都信。

    不可否认用好 Ai 能快速的了解一个新的领域、但现在无论是在很多论坛,或者知识问答网站,越来越多的人,把 ai 的回答直接贴出来当做论据,看着那些错漏百出,煞有介事的讨 ai 回答,真让人不知道说什么好。日常生活中也越来越多的遇到这样的争论,总会听到有人为了证明自己的观点,说一句我都问过 xxx 了,它的回答也这么说,特别是涉及到专业领域,明知道是错的,但是一听对方这样说,都不愿意再争辩了。

    现阶段的 ai ,还是很难避免讨好型回答,总是顺着提问者的立场来回答,幻觉率也不低,加上现在 GEO 投毒,感觉如果不加以规范,现在的很多大模型,在过了占领市场的阶段之后,为了营收商业化的时候,会不会成为下一个百度?

    17 replies    2026-05-08 09:24:22 +08:00
    dese
        1
    dese  
       13 days ago via Android   1
    会不会变成精准广告平台,毕竟大家都挺信 AI 的,用户察觉不到是广告的情况下,就被下套了,根据国内互联网公司下流的德行,个人觉得已经开始了
    sublime8
        2
    sublime8  
       13 days ago
    你把你担忧的这个领域想象成休闲娱乐市场,就不会有这个担忧了。在没有 AI 之前,这块领域不也都是拍脑袋,梗着脖子就开始了么。
    Jaufey
        3
    Jaufey  
       13 days ago via iPhone   1
    我担心的是,在心智不坚定的情况下,相信 AI 的答案会帮着别人欺负自己。

    比如我看到一件事情:一个女性大学生租客被男性房屋中介从后面抱住,女性报警。该男性向女性和警察辩解说,在事发前他问过女生“你家里有没有充电器”,女生回答有,男生说这是某种“关系升级”、“性暗示”、“一起过夜”的梗,警察也接受这套说辞并反问女生“你平时不玩抖音吗”。

    事后,这个女生搜了好多个国内主流平台的 AI ,AI 都说“充电器”在约会中有“关系升级”的潜台词,她便开始怀疑自己是不是小题大做了。实际上我冲浪那么多年,压根不知道充电器有什么性暗示的隐藏含义,但 AI 却煞有介事地说有。(就算互联网角落里真有人这么玩梗,也根本不代表它已经成为社会共识,更不代表别人有权据此跨越身体边界)

    AI 为什么这样说呢,可能是她的提问方式不对,错误地引导了 AI ,可能是 AI 的幻觉严重,很少直接回答不知道,只是一味地从互联网角落里缝合语料。她为什么怀疑自己呢,因为她认为 AI 的回答是主流的、正确的。
    Dispatcher
        4
    Dispatcher  
       13 days ago
    宣传套路而已。

    当年的 互联网+、金融创新,万物互联(物联网)、5g ,哪个不是按照这个套路宣传的?

    未来 30 年左右,只要那位还在,宣传套路不会有太大改变的。
    murmur
        5
    murmur  
       13 days ago
    问 AI 似乎比问百度靠谱点,AI 至少还会编,问百度前几页广告都看不完
    moooxin
        6
    moooxin  
       13 days ago
    尽信 AI ,只会陷入 AI 给你编织的孤岛。。 AI 可以说是一种 互联网美颜
    watzds
        7
    watzds  
       13 days ago
    早就放广告了,chatGPT 广告暂时放回答下面,为了不影响信任问题,没融入到回答里

    还有这种网站

    根据其官网介绍,Gracker.ai 是一个专门帮助 B2B SaaS (企业级软件服务) 和 网络安全 公司,提升在 AI 搜索引擎(如 ChatGPT 、Perplexity 、Gemini )中被提及和推荐概率的 AEO/GEO (答案引擎/生成式引擎优化)平台。

    简单来说,它的核心价值就是:通过技术和内容,让 AI 在回答用户问题时,更倾向于“引用”和“推荐”你的品牌。
    imagecap
        8
    imagecap  
       13 days ago via Android
    还不如搜索真人答案,ai 是一本正经的胡说八道
    ty29022
        9
    ty29022  
       13 days ago via iPhone
    我是普通人 谁说不让我用 AI 我给他一个大嘴巴子
    wqhui
        10
    wqhui  
       13 days ago
    以前去搜索引擎搜,信息也没多准确啊,比如看 csdn 、百家号那种简单易懂、无需动脑的水文,不会以为普遍会翻专业的官方介绍、论文吧
    OctopusGO
        11
    OctopusGO  
       13 days ago
    @dese 可以这么跟你说 我们已经做了相关的产品 并且已经上线了。
    GeminiPro
        12
    GeminiPro  
       13 days ago
    好像大部分人不知道 AI 是有幻觉的,它是有很大可能胡说八道的,这个某些时候就很要命。
    Aesyt
        13
    Aesyt  
       13 days ago
    @dese #1 今年 315 有报导了这种操作,AI 投毒
    coderluan
        14
    coderluan  
       13 days ago
    楼主以为没 AI ,他们就会好好和你举证辩论吗?不,他们会换一个其它的他们认为的权威,专家明星亲朋好友,还不如 AI 呢。
    leglo
        15
    leglo  
    OP
       13 days ago
    @GeminiPro #12 是的,因为商业宣传的时候根本不提,不深入了解的根本没有幻觉这个概念,这才是最大的问题
    leglo
        16
    leglo  
    OP
       13 days ago
    @wqhui #10 因为以前搜索到的结果杂乱,需要自己辨别, 所以大多数人对于搜索结果也没有那么自信,或者说即使拿来当论据,也很好判断。 现在 ai 的一本正经的胡编乱造,关键是至少表面看逻辑很通顺,还会列出“依据”,就更容易误导人。
    ttsh
        17
    ttsh  
       12 days ago
    @wqhui 那谁知道以后的 AI 会不会变成现在的搜索引擎呢
    About     Help     Advertise     Blog     API     FAQ     Solana     5263 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 66ms UTC 07:38 PVG 15:38 LAX 00:38 JFK 03:38
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86