Connect with us

Saaspad | China Tech & SaaS News, Trends & Insight

如何研发一个不会取代人类的机器人?

想法

如何研发一个不会取代人类的机器人?

如何研发一个不会取代人类的机器人?

艾萨克·阿西莫夫的机器人三定律非常著名,它既是对机器人的行为约束,也是对人类安全的保障。 然而,这三大定律也有缺漏之处。
一、机器人不得伤害人,也不得见人受到伤害而袖手旁观。
二、机器人应服从人的一切命令,但不得违反第一定律。
三、机器人应保护自身的安全,但不得违反第一、第二定律。
 当然,隐藏的冲突和漏洞比比皆是(这也是阿西莫夫自己的观点)。在如今的高级机器学习软件和自主机器人时代,为机器智能研究所和OpenAI等机构制定一套扎实的人工智能伦理已经成为迫在眉睫的事情。

目前,纽约大学的计算机科学家克里斯托夫·萨尔奇(Christoph Salge)正在采取不同的方法。 萨尔奇和他的同事丹尼尔·波拉尼(Daniel Polani)正在研究一种自下而上的方式(也可以理解为「机器人首先应该做什么」),而不是追求自上而下的哲学定义。

在最近一篇论文中,他们表示希望用这种机器人赋权法来取代机器人三定律。所谓赋权,是一个由控制论和心理学启发形成的概念,是机器人在环境中持续生存和运作的内在动机。 「就像一个有机体,它想生存。它想要能够影响世界,」萨尔奇解释说。当扫地机器人Roomba的电池电量不足时,计划寻找充电站的方案可以说是一种非常基本的赋权形式:要继续在世界上运作,它必须采取行动,维持自己的生存。

赋权的概念,听起来正像安全AI思想家们所恐惧的内容:强大的自治系统只关心自身利益的最大化,并会因此失控。但是,研究过人机交互的萨尔奇想知道,如果一个赋权机器人「也注意到其他人的权利的话,会发生什么?你不仅想让你的机器人保持运转,也希望它能守护人类伙伴的生存权益。」

萨尔奇和波拉尼意识到信息理论提供了一种方法,可以将这种相互赋权转化为一种非哲学化的机器人可以付诸行动的数学框架。 萨尔奇说:“机器人三定律的有一个缺点,就是它是基于语言的,而语言的含义很模糊。 “我们正试图找到一些实际可操作的东西。”

媒体与Salge谈起了信息理论,虚无主义AI以及人机交互模型。采访记录如下:

一些技术人员认为,人工智能是对人类的重大威胁,这种威胁甚至已经存在。你会担心AI失控吗?

对这个问题我有点持中立态度,我认为目前对机器人和AI日益增长的影响力的担忧是切实存在的。但在短期内,我们较为担心的可能是工作被AI取代,决策受AI影响,也可能是民主的丧失,隐私的丧失。我不确定这种局面会不会很快出现。但即使AI要控制我们的医保系统,决定我们对医疗手段的选择,我们也应该先去关注由此产生的伦理问题。


赋权的概念如何帮助我们处理这些问题?

我认为赋权的概念确实在这个问题中有一定影响。它使机器人不毁灭人类,但是一旦你满足了这个基本的底线,它仍然有持续的动力去创造更多的可能性,让人类更多地表达自己,并对世界产生更大的影响。在阿西莫夫的一本书中,机器人最终仅仅是把人类放在一个安全容器里。这并非人类想要的。而凭借自己的能力去改善世界,似乎才是人类更有趣的终极目标。

你在视频游戏环境中测试了虚拟机器人的想法。结果怎么样

由自己赋权驱动的机器人会逃离导弹的发射轨迹、躲开洞穴,或者避免任何会导致其丧失运动能力、死亡或受到损害的情况,它会努力保持自己的正常运行。

当它与一个人类运动员配对时,我们观察到虚拟机器人会和人保持一定的距离,以免阻挡人的运动。它并不阻止你; 它不会挡在门口不让你通过。基本上,我们观察到,这种方法可以保持亲密的伙伴轻易,可以帮助你摆脱困境。它的行为方式也让它具备了成为领袖者或跟随者的能力。

例如,我们创建了一个场景,其中有一个激光屏障对人体有害,但对机器人无害。如果这个游戏中的人类靠近激光器,立刻就会有越来越多的机器人激励其他机器人一起来阻挡激光。

你是如何精准化机器人赋权概念的?

如果你把机器人看作控制系统,你就可以从信息的角度来思考:世界上发生着各种事情,以各种方式影响着你。 我们不只是根据你所感知的事物来谈论信息,而是探讨任何形式的影响力 ——可能会是世界和你之间的任何物质。 可能是影响你的温度,或者是进入你身体的营养素。 任何渗透到世界与机器人之间的事物都带有信息。同样地,机器人也可以通过多种方式影响外部世界,同时也输出信息。

你可以把这个过程看作一种渠道能力,属于信息论的概念。 如果你能采取不同的行动来换取不同的结果,你就拥有很高的权力。 如果任何一种能力表现糟糕,那么你的赋权也会下降 ,因为能力的丧失对应于你和环境之间信道容量的减少。 这就是赋权概念的核心思想。

本文编译自WIRED

Continue Reading
You may also like...
Hunter Liu的头像

Click to comment

Leave a Reply

电子邮件地址不会被公开。 必填项已用*标注

More in 想法

Popular