chatgpt 炸了,代码跑着跑着出现了成人内容 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
wyttt
V2EX    OpenAI

chatgpt 炸了,代码跑着跑着出现了成人内容

  •  
  •   wyttt 1 天前 3664 次点击

    chatgpt 炸了,正跑着代码文档,突然出现了这些

    18 条回复    2026-01-13 19:06:23 +08:00
    crackself
        1
    crackself  
       1 天前 via Android
    这不是成人内容吧
    shunia
        2
    shunia  
       1 天前
    检查一下你的各种配置文件、skills 、mcp 等等,看看是不是什么工具被污染了。看 log 极小概率是 chatgpt 的问题,那个 spec 是某个 mcp 或者 skills 管理/维护的吗?
    zcf2009
        3
    zcf2009  
       1 天前
    最近刚看到,相对于 seo ,又出现了新的 geo ,专门给 ai 可能会采集的数据提前喂屎喂虚假信息喂广告。你这个估计就是被污染了
    WarlockMan
        4
    WarlockMan  
       1 天前
    这怎么那么像 seo 污染,就是那种 在各种搜索结果里无孔不入的安插污染词条一样的农场污染
    google 是的,推特也是,现在已经进化到 ai 污染了么,天呐
    wyttt
        5
    wyttt  
    OP
       1 天前
    @shunia spec 是自己维护的,AGENTS 里写规则,每次增加新功能前,ai 必须先写文档
    wyttt
        6
    wyttt  
    OP
       1 天前
    可能就是语料污染吧,还以为 chatgpt 在测试成人内容
    Aboceder
        7
    Aboceder  
       1 天前
    被污染了
    aiputinglm
        8
    aiputinglm  
       1 天前
    幻觉了
    heyheyhey
        9
    heyheyhey  
       1 天前
    突然感觉这是广告投放新方式啊。
    性感荷官,在线发牌。
    点击链接,即刻开聊。
    Lyet813
        10
    Lyet813  
       1 天前 via Android
    中文语料污染严重
    shakaraka
        11
    shakaraka  
    PRO
       1 天前
    是的。今天碰到了
    codehz
        12
    codehz  
       1 天前   2
    就是意外出现一个训练较少的 token ,它的 embedding 方差很大,直接影响了 LayerNorm 层的计算,导致后续 token 归一化后数值集体偏向同一个方向,attention score 分布严重退化(趋向于 uniform 或 single token attention )梯度也跟着爆炸/消失
    WinnieKing
        13
    WinnieKing  
       1 天前
    上次我用 Gemini 的时候它直接引用黄网内容来分析,最后写起了小说,越写越黄....
    craftsmanship
        14
    craftsmanship  
       1 天前 via Android   1
    这是好事 加速到领导开会放 ppt 时乱入黄色内容后禁用 AI
    BlueSpace4512
        15
    BlueSpace4512  
       1 天前
    这能稳定复现吗?
    yarawen
        16
    yarawen  
       1 天前
    类比于 SEO ,术语都有了,叫 GEO , 生成引擎优化( Generative Engine Optimization, GEO )
    ChaimeLonic
        17
    ChaimeLonic  
       1 天前
    一代人有一代人的“性感荷官,在线发牌”
    jnyanmeng
        18
    jnyanmeng  
       21 小时 37 分钟前
    好了 我已经被成功吸引过去了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5625 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 30ms UTC 08:43 PVG 16:43 LAX 00:43 JFK 03:43
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86