感觉 chatgpt 训练的数据集有偏向性,并不全,跟现实有点偏离 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
kongkongye
V2EX    OpenAI

感觉 chatgpt 训练的数据集有偏向性,并不全,跟现实有点偏离

  •  
  •   kongkongye
    kongkongye 2023-04-09 22:53:07 +08:00 1469 次点击
    这是一个创建于 992 天前的主题,其中的信息可能已经有所发展或是发生改变。

    你问它问题,它回答的总是偏正面而不是偏现实,就像新闻联播与现实会并不相同。

    我原本以为是 openai 给它设定了一个积极正向的属性,但后来想想是不是在数据集选择上就只选择了那些优质的内容呢,那这样差的内容就不喂给它,它的思想会不会比较单一?就像一个看了很多新闻联播的思想单纯的人? 这样问它问题,它的回答或许很正派,但对现实没有那么大的指导意义。

    比如我问它:现实中,是否所有的销售都要忽悠外行人来扩大利益? 它回答:在某些情况下,销售人员可能需要夸大产品或服务的优势或功能,以促使客户做出决策。这种做法可能会导致客户失望和不满意,并最终影响销售人员的业绩和声誉。因此,真正成功的销售应该注重建立长期的关系,而不是仅仅追求短期的利益。

    3 条回复    2023-04-09 23:49:23 +08:00
    iloveoovx
        1
    iloveoovx  
       2023-04-09 23:09:55 +08:00   4
    你这个问题已经暗含了你对于答案的倾向,但它并不会顺着你的心意来。我倒没觉得它的回答有什么问题,如果你问我这个问题,那我可能会问你,你对于忽悠的定义是啥?无论你定义是啥,你明显知道一旦限定“所有”这个词,答案肯定是 no ,那么你为什么要这么问?是不是仅仅希望得到一个愤世嫉俗一点的吐槽发泄情绪?
    kongkongye
        2
    kongkongye  
    OP
       2023-04-09 23:27:30 +08:00 via iPhone
    @iloveoovx 邪恶,中立,正义,我认为 chatgpt 是偏正义而不是偏中立的,所以问一些跟道德有关的问题时回答的偏正义,这样的问题是如果你按它说的做可能会吃亏,被社会毒打。大概这个意思
    iloveoovx
        3
    iloveoovx  
       2023-04-09 23:49:23 +08:00
    @kongkongye 那这个依然是你的投射啊。这几个描述,都很难有严格定义,那么进一步去调整模型更难。当然,从产品角度来说,它们肯定是要尽量免责的。但这不代表它一般问题的回答和现实偏离,因为你可能觉得它说的东西不痛不痒太正,但也会有人觉得它不够乐观向上。如果你想要愤世嫉俗一点的,找找越狱的模板呗,给它赋予一些角色之类的。

    另外,我也不觉得你表达出来的这层意思更“贴近现实”,或者那类“小聪明”就更加适应社会。抛开其它所有因素不说,光就“时间尺度”这一个因素的不同就能让同样价值取向下采取完全相反的行为判断。比如都是为了赚钱,只管赚 3 个月的钱,和希望能赚 30 年的钱,采取的行动就可能是截然相反的。这个在它的回答里也展示了。那么你这个问题可能能深入为“为什么现实中多数人都只在意短期结果?”对自己更有价值。我倒是建议你可以和它再多聊聊,发散下去,不要带着希望它给你什么回答的心态,而是带着希望它给你启发,发现一些还没注意到的自己思维盲点的心态。毕竟对方是集合了大量人类集体意识的 AI ,不需要说服,也没法真的给你什么认同,抱着学习启发的心态才最不浪费自己的心力。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2463 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 34ms UTC 15:30 PVG 23:30 LAX 07:30 JFK 10:30
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86