从“机器人杀人”到“有意识机器人”，还要多久？

编|子夏

1993年，维诺尔·温奇发表《即将来临的技术奇点》一文，曾预言30年后人类将能够创造具有超级智慧的机器，由此走上人类终结之路。数学家霍金和企业家马斯克都是机器终结人类说法的信众。

从古希腊、罗马时代到如今，世界上人工智能的发展跌宕起伏，而人与机器的关系、人工智能带来的伦理挑战日益成为焦点话题。

图片来源于网络

世界上曾发生多起机器人杀人事件

《金融时报》2015年曾报道称，德国大众汽车制造厂中一个机器人杀死了一名人类工作人员。当时这名21岁的工人正在安装和调制机器人，后者突然“出手”击中工人的胸部，并将其碾压在金属板上。

彼时，德国大众汽车公司发言人海科希尔威格说，这很可能是一次人为操作失误导致的事故，不是机器人本身的问题。“机器人可以被编程并在装配过程中执行多种任务……工厂的机器人通常会在生产基地固定的区域内运转，抓取汽车零部件并操作它们。”该发言人称大众汽车公司之前并未发生过类似事故。

有英国媒体报道称，西方国家的工厂极少发生与机器人有关的死亡事件，因为机器人通常被放在安全笼中，以避免与人类意外接触。这场事故中，那名男子事发时恰恰站在安全笼里，而现场另外一位员工由于站在安全笼外而没有受伤。

在德国工厂出事之后不久，这样的悲剧又在印度发生。印度Manesar（马尼萨）一名汽配公司的年轻工人在维修脱节金属板时被一个机器人“杀害”，事实上，这个机器人是预先编程好来焊接金属板的。

其实，世界上发生机器人杀人事件并非只有德国和印度。笔者了解到，早在1978年，日本广岛一家工厂的切割机器人在切钢板时，突然发生异常，将一名值班工人当作钢板操作，这是世界上第一宗机器人杀人。

1981年，日本川崎重工业公司明石工厂的一名修理工人，无意中触动了机器人的启动钮，这个加工齿轮的机器人立即工作起来，把那个工人当成齿轮夹起，放在加工台上砸成了肉饼。

图片来源于网络

美国也曾发生机器人杀人事件。2015年7月，一台“发狂”的机器人“错手”将美国一汽车工厂装配工Wanda Holbrook杀死。据调查人员描述，事发当时该装配工在工厂六号厂房100区工作，然后不幸的是，其中一个机器人突然“发狂”，从一个区走向另一区，在装载完毕的地方仍试图再装一遍，胡乱得挥舞手臂，击中了她的头部，当场死亡。

2017年3月7日，Wanda Holbrook的丈夫William Holbrook以“意外致死”的名义向法院起诉，把5家北美的机器人制造商和设计商告上法庭。据悉，这5家企业全部为Wanda Holbrook所在工厂使用的机器人提供零部件和服务。

William Holbrook在起诉书中表示，“那台机器人永远不应该从一个区走到另外一个区，也不应该在已经装载完毕的地方再试图装一遍。不止一位被告人的安全系统或者设备出了错误导致万达的死亡。”William Holbrook认为，这五家公司设计制造的机器有重大缺陷，没有被好好的设计、制造和测试，根本不能拿来使用。

在中国，也曾发生过类似惨剧。2018年，合肥芜湖市经济开发区一企业工人在给搬运机器人换刀具时，突然被机器人夹住。虽然该工人很快被救下，但被送到医院后，因伤势太重，不治身亡。据悉，机器人将员工“杀死”这样的意外，在芜湖还是第一次出现。

图片来源于网络

“我们需要非常小心人工智能”

机器人“杀人”事件被报道后，许多网友脑洞大开。有网友评论道：“《终结者》所预言的机器人崛起已经开始。”还有网友表示，大众公司拒不承认机器人故意杀人的态度，就像《复仇者联盟2》里托尼史塔克执意要创造出“奥创”的心态一样危险。还有网友担心“这个世界上很多机器人其实已经有能力通过图灵测试，只是他们估计假装不能……”

对此，英格兰西南部布里斯托机器人实验室(Bristol Robotic Laboratory)的艾伦·温菲尔德(Alan Winfield)教授表示：“很遗憾，人们对机器人的期望和恐惧都过了头。他们被科幻电影和媒体报道弄得过于敏感。”

不过，学界和商界也并不是对机器人的发展毫无担忧。1993年，维诺尔·温奇发表《即将来临的技术奇点》（The Coming Technological Singularity）一文，曾预言30年后人类将能够创造具有超级智慧的机器，由此走上人类终结之路。这个时刻就是后来很多人说的“奇点”。数学家霍金和企业家马斯克都是机器终结人类说法的信众。

马斯克曾痛斥人类小看智能机器人，他表示机器人完全有可能自主决定实施杀人行为。他认为人工智能的发展将使机器人杀人不费吹灰之力：“设想机器人的功能是删除垃圾邮件，如果有一天机器人觉得删除垃圾邮件的最好办法就是把人类一起干掉，这可怎么办。”

马斯克认为，“我认为我们应该对人工智能非常小心。如果我们想知道我们最大的生存威胁是什么，那可能就是这样。因此，我们需要非常小心人工智能。越来越多的科学家认为，也许应该在国家和国际层面进行一些监管，以确保我们做的事情不会非常愚蠢。借助人工智能，我们可以召唤恶魔。”

图片来源于网络

其实，早在1939年，俄罗斯美籍作家阿西莫夫在小说中就描绘了工程师在设计和制造机器人时通过加入保险除恶装置对机器人进行控制的情节。人类固然不会制造出“杀人机器人”，但不能保证机器人不被别有用心的黑客操控。

他提出了著名的机器人三定律：第一定律：机器人不得伤害人类，或坐视人类受到伤害；第二定律:除非违背第一法则，机器人必须服从人类的命令；第三定律：在不违背第一及第二法则下，机器人必须保护自己。

阿西莫夫在《机器人与帝国》中，又补充了第零定律，即：机器人必须保护人类的整体利益不受伤害，其他三条定律都是在这一前提下才能成立。

三定律也具有一定的现实意义，很多人工智能和机器人领域的技术专家也认同这个准则，随着技术的发展，“机器人学三定律”越来越显示出它的重要性。

有意识机器人未来将出现？

有人预言，几百年后，世界上的智慧智能将由3部分组成：人类智能（AI）+人类可控的人工智能+人类不可控的机器智能。

国内知名电视剧《你好，安怡》，刻画了未来AI机器人群像：“湖边小屋大家庭”，一个由人类和机器人共同组成的大家庭，有父母和众多兄弟姐妹的存在，其中4个家庭成员都属于有意识的机器人。姜离是世界上第一个有意识的芯机人，美丽，智慧，冷幽默，内心充满爱与责任。在与人类家庭的融合中，她用自己的人生哲学去解决一些棘手的问题。

《你好，安怡》剧照图片来源于网络

视线拉回到现实空间。2022年的特斯拉 AI 日上，一个穿着特斯拉机器人制服的人出现，CEO埃隆·马斯克说：“特斯拉机器人将是真的”。该机器人将能够帮助人类跑杂货店、捡拾家庭物品和其他日常指令。马斯克称，公司可能会在明年某个时候推出人形机器人特斯拉机器人的原型。

不久前，马斯克在公司第四季度财报电话会议上表示，人型机器人是特斯拉公司今年开发的“最重要的产品”，其地位甚至高于备受关注的Cybertruck和其他车辆。

当提及这个项目时，马斯克说道：“这是我们最重要的产品，比汽车更重要。”他还透露公司内部已经将这个机器人命名为“Optimus，”与经典动画《变形金刚》中的“擎天柱”同名。

马斯克表示，虽然特斯拉机器人可能还需要几年时间，甚至可能永远不会实现，但如果它能完成现在只能由人类完成的任务，就有可能彻底改变现今的经济模式。

他解释道，经济的基础是劳动力，机器人技术的进步使公司能够用机器取代某些工人，但目前技术的局限性使大多数任务仍需要由人类完成。

《你好，安怡》剧照图片来源于网络

英国《镜报》2月14日报道，美国Open AI组织的其中一个创始人，也是研究AI的科学家伊利亚·苏茨克弗，对于人工智能的进一步发展表达了自己的担忧。Open AI是由许多美国硅谷、西雅图科技大佬们联合建立的人工智能非营利组织。

伊利亚在社交网推特上说，现在的人工智能可能已经有点意识了，也许以后它将完全拥有自我意识，未来的人类社会或许会成为电影《终结者》一样，被机器人所统治。

但他没有具体指出是什么技术分支，只是拿科幻小说和电影举例，说明人工智能技术日趋成熟不见得是件好事。

不过他的这个说法遭到了其他同行们的批评，科学家们对伊利亚的“谬论”表示一致反对，还很生气地骂他说：“你这么说，不但让人工智能离人们的生活更远了，还使得它的发展增加了更多现实的风险因素。”

这样的争议并非第一次。2019年的世界人工智能大会上，马云与马斯克的观点就出现对立。马云认为，人工智能是人类创造的，不可能超越人类。马斯克则当面反驳，聪明人最容易自以为聪明，人工智能已经在很多方面超越了人类，全面超越只是时间问题。但马云毫不相让说：100年前，人类发明了汽车，但谁会和汽车赛跑呢？