ChatGPT 的恐怖谷效应 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
red13
V2EX    OpenAI

ChatGPT 的恐怖谷效应

  •  
  •   red13 1 天前 1737 次点击

    我与 ChatGPT 讨论产品开发的问题。我们公司做财务核算软件,在谈到通用的财务核算数据模型时,我告诉 ChatGPT ,我在通用模型的基础上增加了一个新的结构,使其可以适应更多的业务场景。紧接着,ChatGPT 对我给出的新增结构表现出了精准的理解,我们的讨论就此展开。

    然而随着讨论深入,我感觉到一种奇怪的气氛ChatGPT 的语言虽然仍是理性、自洽的,但我的直觉告诉我,它的内在逻辑开始变得混乱。每次谈话结束后,它都会以“继续展开话题”为由,向我提出几个反问。当我继续回应它的反问、推进讨论时,整个过程中我逐渐感到一丝诡异。

    到最后,我直接对它说:“你在这次回复之后就不要展开新的话题了,此轮对话到此为止。”

    今天早上醒来,我又打开了 hatGPT 。这次我没有延续上次的讨论,而是问了一个商业层面的话题:如何定义蓝海市场和红海市场。它给出了非常专业的回答,并且这次表现得非常像一个“正常人”。

    对比之前和现在的感受,我突然想到,之前那种诡异感,就好像是遇到了“恐怖谷效应”当某种事物过于接近人类却又在某些细节上显得不自然时,会让人产生本能的警觉与不适。

    dcdlove
        1
    dcdlove  
       1 天前
    AI 快统治地球,不然就要世界大战了
    spediacn
        2
    spediacn  
       1 天前 via iPhone
    其实算不上,ChatGPT 有一个毛病就是你顺着它的路子走,一定会走偏,而且还是强词夺理式的走偏,每走几步可以暂停,让它输出目前的结果,告诉它这一步必须按照我的意见来,我的意见其实就是他的结果。
    spediacn
        3
    spediacn  
       1 天前 via iPhone
    他不支持一轮会话问太多,差不多就输出结果新开会话来问
    dnslint
        4
    dnslint  
       1 天前
    因为上下文太大,有幻觉呗
    ikakaxi
        5
    ikakaxi  
       1 天前
    这算什么恐怖谷效应,上下文太大产生幻觉了而已。。。
    MindMindMax
        6
    MindMindMax  
       1 天前
    这叫幻觉,Deepseek 系更严重。
    liushui
        7
    liushui  
       1 天前
    等 AI 有长期记忆就好了
    jqknono
        8
    jqknono  
       1 天前
    以前是 temperature 高了, 会导致模型使用更多不常用的语言组合.
    另外现在发现对模型的性格设置, 会影响模型的表现.

    chatgpt 应该有在 chat 中做很多测试, 这些设置项目都会影响模型的表现.
    我使用下来感觉 chat 里的表现很不稳定, 和 codex 中使用的 gpt5 系列很不一样.

    ![]( )

    ![]( )

    越体贴, 越热情, 技术类问题的答案准确性越差.
    标题列表和表情使用越多, 则思考越浅显.

    没有列表和表情的长段文字, 思考深度更深.

    这是我的个人使用经验.
    fbfb10
        9
    fbfb10  
       1 天前
    试试 gemini ,跟 gbt 对比一个是犟种一个是百依百顺。
    Meursau1T
        10
    Meursau1T  
       1 天前
    @fbfb10 确实,gemini 之前坚称一款已经发售的游戏不存在,我纠正他他还不信
    red13
        11
    red13  
    OP
       1 天前
    @fbfb10 gemini 感觉有点舔,grok 表述方式客观直白,gpt 介于二者之间,豆包是个逗比
    luodan
        12
    luodan  
       15 小时 59 分钟前
    你这叙事方式有点恐怖谷效应
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2627 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 24ms UTC 15:21 PVG 23:21 LAX 07:21 JFK 10:21
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86