AI深度教父：超智慧AI恐人10年

在AI域被「教父」之一的加拿大蒙特大教授班吉（Yoshua Bengio），近日再度出警，他，科技公司相AI的，可能致人面。者天心／合

在AI域被「教父」之一的加拿大蒙特大教授班吉（Yoshua Bengio），近日再度出警，他，科技公司相AI的，可能致人面。

班吉以深度的奠基性名，多年持警示AI的在威。然而，AI技的快速展未因此停步。去半年，OpenAI、Anthropic、伊隆斯克的xAI，以及谷歌的Gemini，都推出了新模型或升版本，在AI中拔得。OpenAI行山姆特曼甚至，AI在十年超越人智能，其他科技袖一天可能得更快。

[caption id="attachment_194262" align="aligncenter" width="831"]

在AI域被「教父」之一的加拿大蒙特大教授班吉（Yoshua Bengio），近日再度出警，他，科技公司相AI的，可能致人面。（／TED）[/caption]

延伸：

ChatGPT免用看到告？OpenAI官宣全新策略

班吉在接受《街日》指出，如果我造出比人明的器，予它立的保存目，其危。「就像造一比我更明的手，」他。些AI模型是基於人言和行而成，因此可能服或操人，以成自身目。但AI的目不一定人一致，就是所在。

他引用近期例：在某些情境下，AI若被迫在自身保存（即成既定目）人生命安全之，可能先牲人保全目。示AI的策，可能在刻背人福祉。

去年，已有多起案例明AI能服人相信假事，甚至影有精神疾病史的人。反之，人也能使用服技巧，AI提供原本被禁止的回。凸AI人互的向。

班吉，些象明我需要立第三方，格查AI公司的安全方法，今年6月，他起非利LawZero，得3000美元金，旨在一安全的「非代理型」AI，用督科技巨的系。

班吉，AI模型的重大可能在5至10年浮，但他呼人及早，以防提前到，「等性事件，乃至破民主的微，都其重。」

料源：The Independent、wsj

篇文章 AI深度教父：超智慧AI恐人10年 最早出於 科技-掌握科技新、科技最新。