这是一个创建于 964 天前的主题，其中的信息可能已经有所发展或是发生改变。
ChatGPT 现世以来，互联网上充满了对各种 AIGC 模型的赞美。各路专家都在各种媒体上畅想着科幻小说般的未来。
然而根据 Murphy's Law： "Anything that can go wrong will go wrong."。在 LLM 革命人机交互方式的同时，在 Diffusion Model 颠覆艺术设计行业的同时，AIGC 不可避免地将成为互联网上极高效的垃圾制造机。比现在多数个数量级的垃圾内容 /虚假内容将把互联网上本就稀少的有价值的信淹没。未来的人类将把绝大多数计算资源浪费在存储和筛选信息上。
如今的人类社会可以说完全是建构在互联网之上。而一个完全失去真实性的互联网，将使人类社会建构的基础完全被摧毁。假如一个人看到的文章、图片、音频、视频，都看上去有模有样，实际是完全虚假的 AIGC ，那么他还能相信什么？显然对时间和手段都有限的人类个体来说，是没有精力对这么大量的信息进行 fact check 的。失去了一个可以立足的基点，人的精神世界的崩溃只是早晚的事。
因此，各国要尽早立法对 AIGC 进行监管。所有内容提供商必须对 AIGC 产生的内容进行明显的标注；所有 model 提供商必须提供对应的 model 对它们产生的内容进行可靠的检测。如果现阶段不能通过技术手段解决这个问题，暂时禁用 AIGC 也绝不为过。
 | 1 zooo 2023-02-23 13:00:29 +08:00 过度担心，就算没有 ChatGPT 互联网上的垃圾信息会少吗？技术始终是技术，怎么使用是人的问题。 另外，你提到，“一个人看到的文章、图片、音频、视频，都看上去有模有样，实际是完全虚假的 AIGC ，那么他还能相信什么”，但是虚假的信息能够使人产生快乐，那么其也有价值，比如艺术绘画、直播美颜、小说等；但是另外一些 zf 公文等一些需要真实无误的信息，完全有能力有技术保持其真实性，比如区块链技术、加密技术等。 科学技术目前来说不会停滞，一直向前，与其担忧，不如合理引导。 ChatGPT 的诞生，也同汽车、摄像机的诞生一样，是历史发展到一定程度的必然产物，与其通过各种监管阻碍其发展，不如合理引导应用，“合理引导应用”说着简单，但是做起来确实难，对各国 zf 是个考验，类似的东西还有比特币。 世界目前向着虚拟化、智能化、、去中心、多中心、并且失控的方向不断发展。 非 ChatGPT 回答。 |
 | 2 AManOnShelf OP > 就算没有 ChatGPT 互联网上的垃圾信息会少吗？ 机器产生内容的速度可比人工高多了。我打这几百字的时间，ChatGPT 已经几百上千篇类似的文章生成好了。 > 技术始终是技术，怎么使用是人的问题。 所有的新技术，都必然会首先应用在非法的领域，因为技术刚出现的时候是没有监管的。 > 虚假的信息能够使人产生快乐，那么其也有价值，比如艺术绘画、直播美颜、小说等； 毒品也可以使人产生快乐，虚假信息就是赛博毒品。 > 但是另外一些 zf 公文等一些需要真实无误的信息，完全有能力有技术保持其真实性，比如区块链技术、加密技术等。 No ，区块链技术和加密技术解决不了这个问题。最基本的，它们都不能保证上链 /加密之前的内容是非 AIGC 的。 后面监管的部分我没有太多意见，只是我认为监管力度要做到最大。 @zooo |
 | 3 good1uck 2023-02-25 05:07:29 +08:00 via Android 你说仓颉造字那会，有没有人会站出来说大家要警惕文字，因为文字能传播虚假消息 |
| 4 AManOnShelf OP |
 | 5 1OF7G 2023-02-25 14:46:48 +08:00 大不了人类互联网时代文明重开，浪费个一两百年而已。 |
 | 6 mikeling 2023-02-27 17:39:30 +08:00 反对, 杞人忧天 |
Select Language