机械公敌梦靥?科学家担心人类将无法控制超级AI

电影《机械公敌》中,威尔‧史密斯饰演的警探,生活在人类广泛使用智慧型机器人的年代。然而,一场机器人发明者离奇死亡的命案,让人类与机器人的关系岌岌可危。掌控机器人的中央控制系统,以追求人类最高福祉、避免人类间自相残杀,自主发展出“保护人类计划”,但为了达成这个目标却痛下毒手杀人。在人工智能(artificial intellegence, AI)技术发展的现在,不免让人担心,未来这样的情节会不会在真实世界上演?

随着AI技术发展,部分科学家、哲学家示警,不受控的超级AI(superintelligent AI)将带来危险,其中来自德国马克思‧普朗克研究院(Max-Planck Institutes)人类发展中心的研究团队指出依照理论推演,人类无法控制超级智能AI。相关研究刊登于《人工智慧研究期刊》(Journal of Artificial Intelligence Research)。

该研究共同作者塞布里安(Manuel Cebrian)表示,失控的超级AI听起来像科幻小说,但如今已有AI独立执行重要任务,研发者却无法完全了解AI是如何习得这些能力,“未来失控的超级电脑是否将成为人类危机?”

目前科学家提出2大构想,尝试控制超级AI,其中一项为,透过切断AI连网,或与其他科技产品的连接,让超级电脑无法连结外在世界,但这将使得超级智能电脑的功能大幅下降,难以达成人类的需求。

另一个构想则是将AI出发点设定为追求人类最高福祉,如将道德准则编写进程式中,就像科幻作家艾西莫夫(Isaac Asimov)的“机器人三大法则”一样。研究团队也尝试以涂灵(Alan Turning)的“停机问题”(Halting Problem)为架构,去探讨用“遏止演算法”(containment algorithm),来避免AI行为脱序的可行性。他们模拟AI行为,并在发现这可能对人类造成危害时中断,以确保在任何情况下,超级智​​能AI都不会伤害人类。

然而研究指出,上述的“遏止演算法”根本做不出来。人类与机器中心主任拉万(Iyad Rahwan)指出,如果将问题拆解,从电脑演算法的基础规则出发,会发现“命令AI不能破坏世界”的演算法,可能会在人类未察觉的情况下停止运行,我们将无法得知它是否仍在分析可能的威胁,或已经没有阻止AI危害行为的能力。

简言之,要发展遏止演算法基本上是难上加难,研究也强调:“任何单一的演算法都无法判定AI是否会对人类造成伤害”;此外,研究也指出,科学家甚至无法得知超越人类智慧的超级AI何时将实现,“要确定一个电脑的智慧已经超越人类,这个问题的困难程度与遏止演算法相当。”

作者:是柚子呀,如若转载,请注明出处:https://eozlab.com/kejiqianyan/909.html