请教一下大家,大语言模型在内部办公有什么落地场景? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
afeiche
V2EX    程序员

请教一下大家,大语言模型在内部办公有什么落地场景?

  afeiche 2024-03-15 09:08:09 +08:00 5459 次点击
这是一个创建于 575 天前的主题,其中的信息可能已经有所发展或是发生改变。

最近又换了个组,搞大语言模型在内部办公的落地,前期其他人想了两个,一个是通过 RAG 把内部的文档喂给大模型,用于智能问答,另一个是代码助手,类似 copilot ,不知道是否又其他的思路,探讨探讨。

第 1 条附言    2024-03-15 09:56:51 +08:00
是否有 agent 的落地场景?
第 2 条附言    2024-07-26 15:01:27 +08:00
我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
51 条回复    2024-07-29 09:57:12 +08:00
afstyle
    1
afstyle  
   2024-03-15 09:24:30 +08:00   1
我司用来做翻译,机翻效果比用其他第三方接口稍微好一点
assilzm
    2
assilzm  
   2024-03-15 09:24:37 +08:00
智能问答是最容易实现效果又最容易体现的。
其他多就要根据自己的业务来了,搞点智能分析什么的
Braisdom
    3
Braisdom  
   2024-03-15 09:25:58 +08:00   3
我的 Agile Query ( https://www.agiquery.com) 里用来做数据分析,哈哈
weeei
    4
weeei  
   2024-03-15 09:26:32 +08:00
智能生成 SQL 查询?作用和代码助手一样。
boringwheat
    5
boringwheat  
   2024-03-15 09:29:20 +08:00
最近在搞同样的事情,通过 RAG 做内部知识问答
Braisdom
    6
Braisdom  
   2024-03-15 09:31:02 +08:00
@weeei 和助手不一样的,他生成的 SQL 还需要人修改,而 Agile Query 是直接出数据的,不需要人肉参与。
noahlias
    7
noahlias  
   2024-03-15 09:33:04 +08:00
比如一个 idea 从想到到落地 可以让 ai 智能列出要做的 todo 事项
supuwoerc
    8
supuwoerc  
   2024-03-15 09:34:40 +08:00   1
集成到 gitlab 的 cicd 场景,做代码润色和优化
DigitalG
    9
DigitalG  
   2024-03-15 09:35:48 +08:00
问个问题,在文档和代码的话题上,RAG 或者 Copilot 如果出错(模型幻觉,不易被发现的那种)导致程序/业务出现问题,是怎么定义责任的?会影响用户使用的积极性吗
hydyy
    10
hydyy  
   2024-03-15 09:43:03 +08:00
@Braisdom #3 怎么用呀?
chiu
    11
chiu  
   2024-03-15 09:43:56 +08:00
微软在自家产品 Outlook, Edge, Teams, Word, Excel, Powerpoint 都集成了 Copilot, 直接用.
cat
    12
cat  
   2024-03-15 09:44:37 +08:00
@Braisdom 这个是收费的吗,怎么部署啊
Braisdom
    13
Braisdom  
   2024-03-15 09:44:53 +08:00
@hydyy 下周会发一个 Docker 版本和试用的 License ,如果想详细了解可以加我微信:braisdom
Braisdom
    14
Braisdom  
   2024-03-15 09:46:56 +08:00
@cat 目前是收费的,等再晚点会发个社区版本,会有一些限制。
afeiche
    15
afeiche  
OP
   2024-03-15 09:49:05 +08:00
@chiu 国内肯定不能直接用啊,我们连 office 都不能用,只能用 wps
Frankcox
    16
Frankcox  
   2024-03-15 09:52:51 +08:00
@supuwoerc 想请教下,ci 代码润色是处理 commit diff 的内容吗?没有上下文的话,效果好吗?
fredweili
    17
fredweili  
   2024-03-15 09:55:30 +08:00
文档提问是在做的,路径比较简单
afeiche
    18
afeiche  
OP
   2024-03-15 09:56:05 +08:00
@afstyle 感觉也是条路
luckypants123
    19
luckypants123  
   2024-03-15 09:56:35 +08:00 via iPhone
往黑暗一点的想,会被拿来当监工,员工聊天记录喂进去,问是在工作还是摸鱼。
paiguli
    20
paiguli  
   2024-03-15 10:04:57 +08:00
@luckypants123 喂出一个桌面 AI 宠物是吧,平时就可以直接问他问题,然后他就监视你电脑运行了啥,然后总结个表给老板。自动生成日报,周报,月报。
aleimu
    21
aleimu  
   2024-03-15 10:07:10 +08:00
去年就做了一些实践部署,做了一个内部 oncall 知识问答系统,就效果来看还是可以回答一些东西的,但领导并不认可,就算真的能节省人力,那意味着又要裁员了,最后也会作用到自己身上
archxm
    22
archxm  
   2024-03-15 10:09:50 +08:00
雷声大雨点小,没卵用
736531683
    23
736531683  
   2024-03-15 10:16:53 +08:00
喂内部教程,资料,你司难道没有运维和支持吗?都可以干掉了(辅助他们)
chaos93
    24
chaos93  
   2024-03-15 10:19:04 +08:00
http://nb.chaos.mba/
JuSH
    25
JuSH  
   2024-03-15 10:34:34 +08:00
去年公司研发部,想引进 360 大模型通过把设计相关技术标准喂进去形成一个可通过自然语言对话的设计助手,但是 360 公司自己先怂了,觉得无法做出我们想要的效果出来。
mandex
    26
mandex  
   2024-03-15 10:41:49 +08:00   3
有种没需求就强行创造需求的感觉。
chiu
    27
chiu  
   2024-03-15 11:25:32 +08:00
@afeiche #15
我在国内, 公司也是买的全套微软企业版, 可以直接使用.
Kumo31
    28
Kumo31  
   2024-03-15 11:58:07 +08:00
飞书的飞飞落地得挺好,每天自动基于聊天记录总结前一天工作内容和关键点、任务,群里一段时间没看的几百条讨论也能一键总结,还能以飞书文档作为知识库来问答。这种集成还是挺提高效率的,不过这个飞飞本身能力太弱,感觉里 GPT3.5 都还有差距,如果有 GPT4 的水平估计就很不错了
Kumo31
    29
Kumo31  
   2024-03-15 12:02:58 +08:00
@Kumo31 还有和飞书妙计结合的会议纪要自动记录&总结,都挺实用
xiaofan305
    30
xiaofan305  
   2024-03-15 12:22:00 +08:00 via Android
用来写文案。另一个 ai 相关应用就是生成配图了,比找图库方便些
wildnode
    31
wildnode  
   2024-03-15 12:49:17 +08:00
@chaos93 是 GPT4 ,还是免费的??
chaos93
    32
chaos93  
   2024-03-15 13:53:37 +08:00
@wildnode 你试试不就知道了
chf007
    33
chf007  
   2024-03-15 13:54:58 +08:00
@DigitalG 肯定要人工 review 一下吧
Eleutherios
    34
Eleutherios  
   2024-03-15 13:58:14 +08:00
稿件生成、审核
zlblade
    35
zlblade  
   2024-03-15 14:02:07 +08:00
@afstyle 您好,可以请教下是用哪个模型做的吗?谢谢。
wildnode
    36
wildnode  
   2024-03-15 14:16:42 +08:00
@chaos93 我的意思是我试了一下发现是 4 而且貌似还能免费用,太强了
rm0gang0rf
    37
rm0gang0rf  
   2024-03-15 14:19:11 +08:00
条款, 合同, 挺好
chaos93
    38
chaos93  
   2024-03-15 15:15:16 +08:00
@wildnode Oh oh oh 好的
darkengine
    39
darkengine  
   2024-03-15 15:25:33 +08:00
用邮件、钉钉、企业微信的聊天去喂,然后出问题的时候可以问 AI 应该怎么巧妙的甩锅 = =#
ysicing
    40
ysicing  
   2024-03-15 19:54:17 +08:00
@chaos93 抱歉!该站点已经被管理员停止运行,请联系管理员了解详情!
chaos93
    41
chaos93  
   2024-03-16 11:01:35 +08:00
@ysicing 管我啥事
daiaoqikk
    42
daiaoqikk  
   2024-05-22 15:35:39 +08:00
@boringwheat 好厚米,你们最近有什么成果吗?研究效果如何,可以探讨一下
boringwheat
    43
boringwheat  
   2024-05-23 15:05:43 +08:00
@daiaoqikk 我们最终选择用阿里云的百炼平台来搭建了,通义千问+向量知识库;基本只要封装一个 web 端供调用就行了,做好内部文档的收集和上传
daiaoqikk
    44
daiaoqikk  
   2024-05-31 11:52:16 +08:00
@boringwheat 是个不错的实现方式,现在使用效果怎么样呢?比如在准确性方面,回复速度方面。有什么你们觉得效果不太好的点吗?
kanchi240
    45
kanchi240  
   2024-07-19 14:53:41 +08:00
@boringwheat 请问阿里云这个使用效果怎么样
boringwheat
    46
boringwheat  
   2024-07-22 15:38:28 +08:00
@kanchi240 满足领导需求没问题,KPI 项目,挺方便的。确实也能解决相当一部分的搜索需求。
kanchi240
    47
kanchi240  
   2024-07-22 16:58:42 +08:00
@boringwheat 收到,也让我研究这块,我看阿里云部署大模型那块收费还挺高了,好像部署上去,就算不使用也收费呐,公司也没预算,呵呵哒
pigf
    48
pigf  
   2024-07-23 09:11:40 +08:00
@boringwheat #43 没有数据安全问题吗
afeiche
    49
afeiche  
OP
   2024-07-24 09:36:25 +08:00
我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
boringwheat
    50
boringwheat  
   2024-07-29 09:55:53 +08:00
@kanchi240 这就比较坑了,没预算自己搞我暂时没有好的思路
boringwheat
    51
boringwheat  
   2024-07-29 09:57:12 +08:00
@pigf 让阿里云提供证明文件,我没法杜绝一切隐患,工作只要合理合规就行;
关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     896 人在线   最高记录 6679       Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 26ms UTC 19:43 PVG 03:43 LAX 12:43 JFK 15:43
Do have faith in what you're doing.
ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86