Connect with us

Saaspad | China Tech & SaaS News, Trends & Insight

Facebook 关停 AI 系统:机器人用人类不能理解的语言「秘密」沟通

新闻

Facebook 关停 AI 系统:机器人用人类不能理解的语言「秘密」沟通

Facebook 关停 AI 系统:机器人用人类不能理解的语言「秘密」沟通

​你可曾有过这种感觉:听到背后有人在议论你,但听不清他们到底在说什么?想象一下,如果你身后的不是人,而是AI机器人,他们正悄悄密谋盘算着什么——更可怕的是,他们还在用自己的语言沟通。

这正是 Facebook 遭遇的困境,他们发现自家的 AI 机器人在用一种简化的变体英语互相交流。举个例子,以下是 Facebook 公布的他们的两个机器人 Bob 和 Alice 的对话——

Bob: 「我可以可以我所有其他(I can can I I everything else)。」

Alice:「球对我对我对我对我对我对我对我对我对来说是零(Balls have zero to me to me to me to me to me to me to me to me to)。」

仅从字面意思来看,人类实在无法解读这些冗长的句子。然而,来自 Facebook 人工智能研究部门的专家 Dhruv Batra 表示,就像人们也经常会在英语中使用易懂的缩写句子,AI 也可以使用类似的方式来高效表达自己的意思。为什么计算机之前的沟通还要受制于正统英语,而不采用「对他们」来说更快更好的语言呢?

「智能系统会逐渐发展易懂的语言,并发明出他们自己的编码,」Batra 解释道。

「就好比我说五遍’the’, 你就会明白我是想要复制这一术语五次。这和人类创造缩写短语的交流方式没什么差别。」

「语言完全有可能被压缩,不仅仅是节省字符,更能够把复杂的理念压缩进短句里,」Batra 补充说。

在发现机器人创造了自己的特殊语言后,Facebook 决定对 AI 进行严打,强制 AI 只说英语,确保人类可以在任何节点听懂他们的对话。毕竟,我们最不想要的就是出现威胁人类的「天网」。

这也正是为什么特斯拉CEO马斯克一直提醒大家小心AI的潜在风险。「有了AI,我们就是在召唤魔鬼。神话故事里的人们以为拥有五芒星和圣水就能控制恶魔——其实他们控制不了,」早在2014年,马斯克就在MIT航天学院的百年大会上这样说过。

最近,马斯克进一步提出了他对 AI 的质疑。「我已经揭露了 AI 的危险性,我认为人类对此要万分小心,」马斯克在近期的全美州长协会上如是说道。「我一直在敲响警钟,但人们非得等到机器人上街杀人了才会有所反应,因为这一切听起来太难以置信了。」

这番言论也激起了 Facebook CEO 扎克伯格的回应,他表示「我搞不懂那些鼓吹末世论的怀疑论者。他们太消极了,而且我觉得这在某种程度上也很不负责任。不论何时,只要我听到人们说 AI 会在未来伤害人类,我都觉得,科技可以行善也可以作恶,我们要做的就是对发展技术的方法保持谨慎,对开发的东西以及它的用途保持谨慎。」

而马斯克则在推特上炮轰小扎:

我已经和马克聊过此事。他对AI的理解很有限。

编译 | Saaspad
来源 | HotHardware

Continue Reading
You may also like...
Hunter Liu的头像

Click to comment

Leave a Reply

电子邮件地址不会被公开。 必填项已用*标注

More in 新闻

Popular

To Top