先抛结论,其实相比较于 Siri ,我认为苹果的离线大模型更可能结合的地方其实是 Spotlight 。 但是在执行搜索的时候可能会像 Siri 一样调用在线大模型。
这么说有两点原因:
同时,在线大模型可能也会被集合进 Spotlight:
最后就是,按照目前 Apple 设备的主流配置,离线运行大模型的代价太大……( 6G 、8G 才是主流)
![]() | 1 hatw 2024-02-02 17:57:53 +08:00 ![]() 最后中国区没这功能 |
![]() | 2 DIMOJANG OP @hatw #1 我猜 Apple 应该会尽量避免直接把 LLMs 的输出展示给用户吧 ![]() |
![]() | 3 aero99 2024-02-02 21:18:29 +08:00 我之前对 Spotlight 也给予厚望,但是使用一段时间总会有各种问题,尤其一些笔记软件,有时候突然就无法搜索了,APP 卸载重装也无济于事,没准升级某个大版本又好了,现在也懒得折腾只能用快捷指令配合 APP 快速检索 ps ,spotlight 后来我才知道这个在国内手机是被阉割过的, |
![]() | 4 kyor0 2024-02-02 21:32:03 +08:00 看看 WWDC 会有啥干货吧。 只是功能辅助的话说不定国内也可以用。 |
5 sharpy 2024-02-02 23:39:43 +08:00 那我估摸苹果手机的内存必须加一等了 |
6 1194129822 2024-02-03 00:41:19 +08:00 不看好。Siri 都是起的大早,赶个晚集。现在 AI ,果子起步都晚了,还是本地大模型,能做成什么样? |
![]() | 7 DIMOJANG OP @1194129822 #6 我感觉现在大模型的战场在消费领域更重要的是找到合适的落地场景。ChatGPT 就是因为摸到了 Chatbot 这个使用场景所以爆火,但是 Chatbot 在普通大众面前肯定是新鲜劲过去之后就不再碰了的所以你看现在三星、谷歌侧重的都是利用大模型的语义理解能力,而非对话。 但是我依然觉得,三星和谷歌的落地场景依然不是很完美就是了。 |
8 acapla 2024-02-03 01:41:52 +08:00 你完全不懂。 |
9 maolon 2024-02-03 06:30:31 +08:00 via Android 苹果的 llm in a flash 论文了解一下? |
![]() | 10 DIMOJANG OP @maolon in flash ,但是不能 all in 。除非模型真的非常小,要不然一开始推理后台就要清空了 |
11 zealotxxxx 2024-02-04 14:10:41 +08:00 属实是黄金内存的回旋镖了。 但是,也可以退一步嘛,不行的走 API |
![]() | 12 DIMOJANG OP |