chatgpt api chat/completions 输出指定长度范围结果 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
anai1943
V2EX    OpenAI

chatgpt api chat/completions 输出指定长度范围结果

  •  
  •   anai1943 2023-10-07 08:36:49 +08:00 1325 次点击
    这是一个创建于 738 天前的主题,其中的信息可能已经有所发展或是发生改变。
    写了个小脚本,用 gpt-3.5-turbo-16k 模型输出说明文档,希望 chatgpt api 返回的内容能尽量详细,嗦或者废话没关系,最好能在指定字数范围内。

    试过调整过 temperature 、top_p 、max_tokens, 还试过 prompt 明确返回的答案长度为 3000 个中文字以上这种提示,结果返回的还是 2000 字以下。

    prompt 目前提供的都是很详细要求,文档大纲、大纲的描述、返回格式等等都描述的很清楚了。

    有什么好的办法让 api 能返回指定范围的字数,感谢!
    8 条回复    2023-10-08 11:58:30 +08:00
    maymayblog
        1
    maymayblog  
       2023-10-07 09:36:54 +08:00
    除了“继续”我没见过其他真实有效的方法
    anai1943
        2
    anai1943  
    OP
       2023-10-07 10:09:28 +08:00
    @maymayblog 接口已经返回 { "finish_reason":"stop"} 了,应该是回答完了吧,没法继续了,本身回答的内容长度不够。
    maymayblog
        3
    maymayblog  
       2023-10-07 10:32:38 +08:00
    @anai1943 因为你不太在意他废话,所以你使用历史记录,回复他一个“继续”他会接着写的,但是继续次数越多,越偏离你的中心思想
    Puteulanus
        4
    Puteulanus  
       2023-10-07 10:54:50 +08:00
    字数这个感觉无解,之前再三强调写一千字作用,它信誓旦旦的说自己写了一千多,复制出来一看只有六百字
    xabcstack
        5
    xabcstack  
       2023-10-07 11:18:29 +08:00
    这是一个逻辑性要求很高的需求, 不要小看这个需求, 只能说明 ai 目前能力还不足
    otakustay
        6
    otakustay  
       2023-10-07 12:02:42 +08:00
    不够长的时候,对话模式和它说“你继续”,然后把多次的答案拼起来
    anai1943
        7
    anai1943  
    OP
       2023-10-07 14:54:57 +08:00 via Android
    @maymayblog 嗯 目前只能这样了
    sn1p4am169
        8
    sn1p4am169  
       2023-10-08 11:58:30 +08:00
    可以尝试给每个大纲加上长度限制,可给定一个“用 UTF-8 字节统计”的数字。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2814 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 14:49 PVG 22:49 LAX 07:49 JFK 10:49
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86