哪家的 AI 可以处理 29247 个字符,相当于 26,650 个 Tokens 的文本输入?有免费的么? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
BeyondReach
V2EX    OpenAI

哪家的 AI 可以处理 29247 个字符,相当于 26,650 个 Tokens 的文本输入?有免费的么?

  •  
  •   BeyondReach 2024-04-20 10:38:42 +08:00 2275 次点击
    这是一个创建于 591 天前的主题,其中的信息可能已经有所发展或是发生改变。
    14 条回复    204-05-15 17:54:03 +08:00
    neteroster
        1
    neteroster  
       2024-04-20 11:47:56 +08:00 via Android
    Claude3 全系列 200K 上下文,GPT4 Turbo 128K 上下文。绰绰有余。

    开源模型这边,Qwen1.5 词表有中文词汇,如果是中文的话 Tokens 量会比汉字数量少不少,32K 完全足够。但上下文较长时效果可能下降。
    macaodoll
        2
    macaodoll  
       2024-04-20 11:57:38 +08:00 via Android
    这个问题之前也测试过,谷歌 genmini 1.5 最优,能吐完所有东西,国产几个吐着吐着就开始省略号了
    BeyondReach
        3
    BeyondReach  
    OP
       2024-04-20 12:00:49 +08:00
    @neteroster

    免费版的 Claude3 Sonnet 提示我超出限制:
    Message is 12128% over the remaining length limit. Try replacing the attached 1 file with smaller excerpts.

    Coze 里的 GPT4 Turbo 128K 模型,支持我输入这么长的文字,但是输出的答案非常短,只有 Tokens 801 ,Characters 803
    wwhc
        4
    wwhc  
       2024-04-20 14:15:16 +08:00
    MistralAI 的开源模型支持 32K Tokens 或 64K Tokens
    mrp
        5
    mrp  
       2024-04-20 16:16:27 +08:00 via iPhone
    kimi
    BeyondReach
        6
    BeyondReach  
    OP
       2024-04-20 17:41:46 +08:00
    @mrp

    kimi 支持长文本的输入输出,就是输出的时候需要点击 “继续”按钮

    但是对输入输出的审核太严苛,我输入的关于台版的理财投资信息,它有时都不愿意处理
    BeyondReach
        7
    BeyondReach  
    OP
       2024-04-20 17:57:46 +08:00
    @mrp
    输入一个 80 分钟视频的字幕后( 29510 个字符),kimi 返回了 3670 个字符,就开始提示其他内容了
    BeyondReach
        8
    BeyondReach  
    OP
       2024-04-20 18:40:40 +08:00
    @wwhc 8g 内存的 mac mini m2 ,使用 Jan 运行 Mistral Instruct 7B Q4 无响应
    BeyondReach
        9
    BeyondReach  
    OP
       2024-04-20 18:42:47 +08:00
    @macaodoll Gemini 可以输入 3w 字文本后,会提示"我只是一个语言模型,无法为你提供这方面的帮助。"

    如果将文本减少到 2w 字左右,可以进行回答,但是输出时会进行删减
    wwhc
        10
    wwhc  
       2024-04-21 00:35:08 +08:00
    @BeyondReach 建议在 16G 内存或 10G 以上显存的设备上部署 Mistral 7B
    maymay5
        11
    maymay5  
       2024-04-22 00:43:44 +08:00
    Asistants GPT
    BeyondReach
        12
    BeyondReach  
    OP
       2024-04-22 09:15:14 +08:00
    @maymay5 有网页吗?网上收到好几个项目都是这个名称
    maymay5
        13
    maymay5  
       2024-04-22 09:29:12 +08:00
    @BeyondReach #12 这是 openai 官方的,你需要充值 API ,然后在这里可以使用 https://platform.openai.com/assistants
    BeyondReach
        14
    BeyondReach  
    OP
       2024-05-15 17:54:03 +08:00
    @wwhc 没有显卡真是寸步难行

    Mac Mini M2 8g 版本真是太弱了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     3558 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 26ms UTC 04:24 PVG 12:24 LAX 20:24 JFK 23:24
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86