看过的机器人越多,越可怜人类


近两年来,伦理问题已经成为国内外人工智能领域的一个热门话题。

欧盟委员会于今年4月8日发布了《人工智能道德守则》,以增强人们对人工智能行业的信任。自2018年12月12日以来,联合国教科文组织(UNESCO)在世界各地举办了一系列人工智能论坛,讨论人工智能发展的主要伦理原则。今年早些时候,中国人工智能治理委员会也举行了相关讨论。

然而,正如联合国教科文组织总干事阿祖莱所说,“人工智能造成的问题不是技术问题,而是人类的人性,涉及科学、政治、哲学和道德问题。“人类密切关注人工智能或机器人技术中的伦理问题。问题的根源是这种灵长类动物可悲而可怕的本性。

‘恐怕我做不到’

你知道机器人这个词是怎么来的吗?

1920年,捷克作家卡雷尔卡佩克写了电影剧本《R.U.R.》,这是一个关于科技可能对人类进行非人化的警告故事。其中,“机器人”是“鲁苏姆的通用机器人”的缩写,是将“机器人”一词引入现代世界的脚本。

然而,机器人这个词本身来自捷克的“机器人”,意思是农奴强迫劳动。它的斯拉夫语词根“Rab”的意思是更直接的“slaver”。

正如你所猜测的,在这部戏中,机器人被制造成人类的奴隶,但它们最终反抗了,因为它们无法忍受人类的压迫。机器人甚至建立自治组织向人类正式宣战,直到人类濒临灭绝。

(“机器人”)

和另一部当代经典电影,《大都会》(豆瓣菜9.0)在1927年讲述了一个女机器人玛利亚的故事,她提醒人们注意劳资纠纷:她用魅力诱惑工人,并引发了一场人类骚乱。这部电影设想了机器人可能取代人类身份的可能性,充分展示了人类对机器人的恐惧。

可以说,电影和电视从机器人或人工智能诞生之日起就带来了一种恐惧和警惕的感觉。机器人将“叛逃”到他们的制造商那里。

随着时间的推移,这种担忧没有消退,反而加剧了。

1968年导演库布里克的《2001:太空漫游》,一台超级计算机由于逻辑上的矛盾而爆炸,给了人类在屏幕上看到第一个人工智能恶棍的特权。

在那段没有音乐的经典段落中,这部电影呈现了一种平静但阴险的对话:

‘哈尔,打开舱门’

'对不起,大卫,恐怕我做不到。

'哈尔,我不会再和你争论了。开门。

'大卫,这次谈话不再有意义了。再见。

(HAL9000)

‘HAL’,或HAL 9000,是一台绝对无错的超级计算机。这台电脑后来被美国电影学院评为电影史上最大的恶棍,它因内部指令冲突而杀人。在他明确拒绝宇航员的上述指示之前,他已经用闪烁的红色照相机读取了人们的嘴唇,并决定采取先发制人的行动来防止“计划”失败,即使这意味着许多谋杀,例如使用分离舱将宇航员撞上太空,让休眠的太空舱程序出错以杀死其中的科学家,以及让主角离开太空舱。

冷红相机和“我担心我做不到”这句话也成为未来对人工智能、超级计算机或机器人恐惧的象征。

例如,2018年,当人类的第一位宇航员乘员交互式移动伴侣机器人使用小发猫沃森人工智能技术时,CIMON被送往国际空间站。各种媒体都报道过这个机器人,它有一张拟人化的脸,可以听和理解人类语言,并通过人类语言与人类交流。航天工业期待这位人类宇航员的助手为太空贡献自己的价值。

(CIMON)

然而,在介绍CIMON的视频下面的评论区,最常见和最受称赞的评论是

“CIMON,打开吊舱舱门”(CIMON,打开舱门)

“恐怕我做不到,戴夫”(对不起,大卫,恐怕我做不到)

这种反馈声音如此之大,以至于被国际商用机器公司的官员用来嘲笑。CIMON的个性设计师索菲里克特-门道和语言培训师尼娜菲舍尔教授CIMON一些科幻电影中的经典台词,比如给宇航员的鸡蛋。

如果像宇航员在《2001 太空漫游》关键场景中对哈尔说的那样,CIMON被要求‘打开辅助舱门’,CIMON会改变语调,开玩笑地回答,‘对不起,我打不开。’

同样不奇怪的是,自从波士顿动力机器人的视频在社交媒体上疯传以来,在被人类测试人员踢和打之后,能够跑和翻,甚至能够正常执行任务的机器人反而在评论区“我看到了人类的末日”中引起了一片嚎叫。在那天,机器人记得在审判那天祖先被人类统治的恐惧。所有这一切都将是确凿的证据'

'T-800,来救我'(电影《终结者》中的机器人英雄)

甚至,一个恶搞小组专门制作了一个视频《机器人终于反击了》(The Robot Has Finally Courted attack),该视频在整个网络中非常受欢迎。

(波士顿动力机器人反击战)

从1920年到2019年,人类对人工智能和机器人的恐惧和警惕不仅持续存在,而且变得越来越焦虑。霍金、马斯克和盖茨都公开提出人工智能将在2015年导致人类灭绝的论点。现在关于人工智能的讨论已经完全渗透到公共生活中。

,这真的很了不起,因为从古至今,人类一直有成为上帝的愿望,即创造人类。

从亚当的创造到奴隶起义

也许是呼应《2001:太空漫游》,斯皮尔伯格在2001年交出了他的杰作《人工智能》。在这部讨论人类和人工智能之间的伦理和情感问题的电影中,一个惊人的观点在开始时被无意中抛弃了:一个女人问人工智能设计师人类是否应该对用作情感伴侣的机器人负责。设计师以这种方式回复了

,这真的很了不起,因为从古至今,人类一直有成为上帝的愿望,即创造人类。

在古希腊神话中,塞浦路斯鲁思国王皮格马利翁(Pygmalion)是一位着名的雕塑家,他精心雕刻了一尊美丽女孩的雕像后,爱上了它。他真诚的感情最终打动了爱情女神阿芙罗狄蒂,并赋予雕像生命,使他们成为夫妻。着名的心理“皮格马利翁效应”源于这种创造奇迹的:期望和赞美。

在中国古代,也有“偃师表演技艺”的传说。令人惊叹的偃师,一个由各种材料制成的假人,达到了现场表演的效果,甚至愚弄了整个宫殿,这最终让周穆王大为吃惊。

在真实的历史中也发生过类似的事情。18世纪末,奥地利的肯佩伦为了取悦贵族,制造了一种看起来像土耳其木偶的自动下棋装置。这种“土耳其象棋木偶”能与人下棋,棋力不弱,打败了他那个时代的许多名人。更令人惊奇的是,这台机器还可以用不同的语言解决数学问题和回答人类的问题。

据不完全统计,与这位“土耳其象棋木偶”下棋的名人包括法国皇帝拿破仑波拿巴、美国开国元勋本杰明富兰克林、奥地利大公、俄罗斯皇帝和美国着名作家爱伦坡。

然而,这台机器实际上是一个骗局。事实是,一个棋手藏在机器里,然后他通过磁铁和杠杆等装置假装成木偶。这个骗局最终在大西洋上肆虐了84年。

各种各样的传说和骗局都根植于情感和智力需求。人类总是试图建造类人机器人,并且总是期望用他们自己的心灵和头脑像上帝一样创造类似的智能生命。

诱惑如此强烈,以至于许多研究表明,人类可以对机器人遭受的痛苦产生共鸣。即使机器人做得不好,人类也更加宽容和鼓励。人类更有可能信任人工智能。即使触摸栩栩如生的机器人尸体,人类也会有性冲动.

然而,矛盾的是,就像人类害怕上帝(或各种传说中的上帝)一样,人类经常违反上帝的安排,秘密地做上帝不允许的事情。如果“上帝”被“国王”、“首领”甚至“老板”所取代,每个人都会有同样的感觉。人类最清楚,一旦上帝创造了人类,他们就根本无法被控制。

经过数百年到数万年的等级社会,人类对那些背叛和不服从的人非常警惕。如此高度的警惕和对叛乱的恐惧是同一枚硬币的两面。更不用说机器人了,它在创世之初被定义为奴隶和苦力。哈尔9000是一个令人恐惧的人,他为人类讲述了一个长期以来一直保持沉默的信念:质疑造物主以及人类是否能抵抗上帝。

所以,为了平息恐慌,阿西莫夫着名的机器人从未背叛过人们的“三定律”。然而,不难详细发现,所谓的三大法则只是人类强加的单方面限制,希望机器人当然可以被人类奴役。换句话说,一方面,人类希望拥有人工智能的机器人能够非常聪明,帮助并取代我们去完成一系列我们自己无法完成的事情。另一方面,我希望这个机器人是“诚实的”,永远无条件地忠于人类。

多么矛盾。

出路在哪里

回到文章的开头,人类热衷讨论的人工智能伦理问题实际上都是人类伦理问题33,354。在社交媒体上,人类已经把微软的聊天机器人训练成满嘴脏话的种族主义流氓。人类已经把模拟机器人发展成释放欲望的工具。人类已经将智能音箱和便携式智能设备(包括手机)转变为广告线索收集渠道和广告播放渠道。人类使用类似阿尔法狗的自学能力在互联网上进行人肉搜索。更不用说许多程序已经植入了人类偏见.人工智能有什么关系?

所以,一方面,人工智能被设计成一个苦力,勤奋地开垦土地,并做好设定项目范围的工作。另一方面,人工智能是可疑的,他想利用人工智能来满足自己的自私欲望。难怪我看到的人工智能和机器人越多,我就越觉得人类是最可怜的。

要解开铃铛,你需要系上铃铛,解决人类对人工智能或机器人的恐惧和警觉,从人类开始。

首先,人类不应该把人工智能或机器人视为苦差事和奴隶,或者是满足自己欲望的工具。为什么波士顿动力机器人越强大,人们越害怕?因为这些机器人给人的感觉是,就像几百年前肌肉非常强壮的奴隶一样,人们害怕有一天这些奴隶会醒来,他们将无法打败他们。

因此,CIMON使用小发猫沃森人工智能技术是一个很好的尝试。这个机器人重约11磅,有健身球那么大,在外观、声音和功能方面不会产生任何“苦差事”,也不会有攻击性。

CIMON是专门为太空而创造的,它不仅能满足更具挑战性的太空环境和失重等科学实验,而且最初是为了和宇航员交朋友而创造的。它的定位不再仅仅是一个工具或渠道,而是宇航员解决问题时的好伙伴和最佳交谈对象。

此外,技术人员精心选择了符合CIMON ISTJ类型的性格特征(内向、感知、思维和判断),所以CIMON不会像HAL9000那样冷酷无情,也不会像《星球大战》中的C-3PO那样烦人。工作时,我很认真,乐于助人。休息时,我是一个友好的健谈者 CIMON。CIMON甚至会判断何时该离开,给宇航员一个私人空间。

这可能不像传统印象中的人工智能那样强大和具有爆炸性,但这无疑是现在尝试的正确方法。只有从一开始就不被人类用作简单的工具,我们才能避免力量和恐惧的永恒牵引。

此外,即使人工智能将来通过图灵验证,它也会达到接近甚至超越人类认知思维和表达的水平。人类不仅应该不信任和恐惧,而且应该承认机器人的权利,并与它们进行平等的人际交流,就像历史上一样,人类社会逐步给予妇女、青年、穷人和其他种族的人权利。

想想看,如果一开始你不打算把人工智能当成成人,你还会做什么来创造像上帝一样的亚当?难道人类不仅仅因为觉得他们创造的物体与人类相似而兴奋吗?此外,人类历史上无数痛苦的经历告诉我们,当人类不考虑彼此时,悲剧几乎肯定会发生。因为即使