机器人学三法则的有趣延伸

蓝衣刚多尔夫

机器人学三法则是1940年12月23日，由《惊人科幻小说》杂志的编辑小约翰·伍德·坎贝尔首先概括的，当时他邀请阿西莫夫来他的办公室讨论一个新的关于机器人的科幻构思。然而，坎贝尔却说，“机器人学三法则”是由阿西莫夫创造的。

The Three Laws of Robotics

机器人学三法则

1.A robot may not injure a human being,or,throught inaction,allow a human being to come to harm.

一、机器人不得伤害人，也不得见人受到伤害而袖手旁观；

2.A robot must obey the orders given it by human beings except where such orders would conflict the Frist Law.

二、机器人应服从人的一切命令，但不得违反第一法则；

3.Arobot must protect its own existence as long as such protection does not conflict with the First or Second Law.

三、机器人应当保护自身安全，但不得违反第一、第二法则。
让我们来看一些有意思的东西

1、机器人的脑子——正电子脑

阿西莫夫的机器人不同于现在的机器人，现在的机器人AI（人工智能）还没有发展到一定的水平，而阿西莫夫的机器人是以正电子脑为处理器的类人型机器，这里的类人不仅仅指一般的形体，还指思维上的类人。我们的人有本我、自我、超我，三者之间的冲突是靠自我保护机制来平衡的；正电子脑的三大法则冲突，则是由脑中不同的正电子位来平衡的。第一法则的电位最高，其次是第二法则，最后是第三法则。那么，思维的类人是不是代表他们也做梦呢？在《机器人之梦》里，阿西莫夫想象了一种电子脑的几何碎形结构，使之更接近人的思维，从而打开了机器人潜意识的大门——其实机器人也不喜欢被奴役。

2、转圈圈——电位平衡

这里的平衡是相对的，特别是第二和第三法则，由于没有像第一法则那样具有涉及人类安全的强制性，因此冲突就更明显。在《转圈圈》中，一个机器人走入险境去为人类服务，他了解这个危险，如果人类正式命令他，他便会在第二法则的高电位下进入险境，但随着危险的加深，第三法则的电位慢慢提高，高到与第二法则平衡时便会出现这样的情况：如果前进一步，第三法则电位高于第二法则，机器人后退，后退导致第二法则的电位再次升高，如此循环往复，机器人就会在这条平衡线上转圈圈。

3、逍遥法外——第一法则的完整性

  一、机器人不得伤害人，也不得见人受到伤害而袖手旁观

为什么第一法则如此繁琐呢？在阿西莫夫的一篇小说里，在那里工作的科学家在一项实验中不可避免地要受到伽马射线的照射，虽然是短短几毫秒，不会对人类造成伤害，但机器人仍会冲上前去，把科学家拉回来，导致实验无法进行。因此，他们把那些机器人的第一法则做了修改，删去了“不得见人受到伤害而袖手旁观”的部分。而机器人心理学家苏珊·凯文大为恼火，像他们阐述了不能更改的理由：如果一个机器人手持一块重物，重物下方有一个人，这时，机器人如果让重物做自由落体运动，势必会砸到底下的人，但机器人明白自己可以在重物落地前救回那个人，因此任凭重物落下。当重物离开手的时候，控制重物的变成了地心引力，与机器人无关，机器人从一个实施者变成了一个观察者，因此可以不得见人受到伤害而袖手旁观。

4、伤害——曲解

什么是更大的伤害?精神上的还是肉体上的？对一个人还是对大多数人？

在《骗子》中，出现了一个“曲解”伤害意义的机器人。为了避免人类受到(心理的) 伤害，它不断说谎，来迎合人类的自尊心和虚荣心，却没想到欺骗带来的伤害更大。

阿西莫夫晚年又进一步提出了“零规则”：机器人不得伤害人类，或坐视人类受到伤害而袖手旁观。这里的人类humanity有别于人a human，从宏观上定义了人类与机器人的关系。那么这条法则到底正确不正确呢？或者说是不是应该放在第一法则之前呢？人类在不停地互相伤害，为了防止这种事情出现，机器人会不会以牺牲最少部分的人类为代价，将人类彻底软禁起来？这是一个恐怖的曲解。

阿西莫夫的机器人拥有意识，会自己思考，也能自己决定。但由于“机器人学三法则”的束缚，他们没有自由意识。难道这三法则就是束缚自由的工具，这三大法则也是人类控制机器人的法宝？那么这是对还是错呢?人类为了自己的安全，束缚了另一种意识形态，这又是对是错呢？

在《正电子人》中，机器人安德鲁为了征求自己的自由而在法庭上说了这样一句话：“只有希望获得自由的人才能是自由身”，尔后，法官判决中有这样一句：“任何生灵只要拥有足够进化的心智，能够领悟自由的真谛、渴望自由的状态，吾人一律无权将其自由剥夺。”而三法则，在伟大的自由面前是多么渺小啊。

loogoa

“任何生灵只要拥有足够进化的心智，能够领悟自由的真谛、渴望自由的状态，吾人一律无权将其自由剥夺。”
呵呵，我很喜欢这句话。
人类怎么能单方面的制定出法则来制约机器人呢？

毒草

其实我在想。。。要是有两个人在互砍。。机器人看见了。。。该怎么办。。。

（PS:你分析的第2条  转圈圈——电位平衡 是错误的。。。因为 人类的命令是在机器人三大定律中排第2的优先权。。。而机器人自己的安全是排第3位的优先权。。所以更本不冲突

这也是为什么不能命令机器人杀人的原因。。。因为和第1优先权的第一条向冲突。。而第1条的优先权高过第2条）

davidmouse

原帖由 DNAzrael 于 2007-4-8 20:27 发表
（PS:你分析的第2条  转圈圈——电位平衡 是错误的。。。因为 人类的命令是在机器人三大定律中排第2的优先权。。。而机器人自己的 ...

其实LZ提到的都是系列小说中写的，其中一篇就是讲的绕圈的事
故事中的情节是：人类只向机器人发出了一个模糊的命令，致使第二定律的电平不高；而机器人任务目标所在地却是一个对其机体有害的辐射源。随着机器人向目的地的深入其自身所受的威胁也越来越大，第三定律电平不段升高，最终与较低的第二定律电平持平，导致机器人在等平衡点线上绕圈
同样推理，如果被命令杀一个人可以挽救另一个或一些人的话，机器人也会处于两难境地。不过机器人为了自身安全而杀人的可能性则极低，但也不是没有，同系列某个故事中，机器人就为了自身安全而产生了杀人的“想法”（虽然最终没有成功）。
不过我看的小说是缩水版，不知道作者是谁:L

xjw311

其实大家都说到点了~~~~~~~~
阿西莫夫，写的短篇集合~~~都是围绕四定律写的~~~~
很有意思~~~以脑指手，以手使指

丁丁虫

出自阿西莫夫的《我，机器人》。网上应该有电子版吧。

游荡的坎德人

原帖由 毒草 于 2007-4-8 20:27 发表
其实我在想。。。要是有两个人在互砍。。机器人看见了。。。该怎么办。。。

（PS:你分析的第2条  转圈圈——电位平衡 是错误的。。。因为 人类的命令是在机器人三大定律中排第2的优先权。。。而机器人自己的 ...

转圈圈那条是阿西莫夫大爷自己解释的，因为前提条件是人类下命令时并未确定该任务的重要级别，机器人在执行过程中便会发生两种电位相互平衡的情况。

两个人在互砍的情况比较好解决，把他们隔离即可，倒是以下这种情况确实会有问题：

原文选自《我，机器人》由 阿西莫夫发表
……

“艾尔弗雷德，”从苏珊·卡尔文的话音中听得出她已经非常疲劳，“别再说蠢话了。如果一个机器人遇到一个疯子要放火烧毁一个住着人的房屋，它该制止呢，还是不制止？”
　　“当然要制止。”
　　“而如果非杀死他而不能制止呢？”
　　兰宁含含糊糊支吾了一声，不讲话了。
　　“艾尔弗雷德，在这种情况下它会尽一切努力避免杀死他。如果这个疯子终于还是死在它手了，那就需要对机器人采取心理治疗措施，否则，它为了更好地遵守第一定律，结果却破坏了第二定律，在这样的矛盾面前，它自己也会发疯的。但人毕竟还是会被杀死的，而且可能就是由机器人杀死的。”
　　“这么说，拜厄利是个疯子吗？”兰宁以极其尖刻的语气追问道。
　　“不，他本人并没有杀死任何人。但他揭露了一些事实，这些事实表明，某一个人对我们称之为社会的大多数人来说，是危险的。机器人为了保护绝大多数人，而最大程度地坚守着第一定律。它也只能做到这个程度。至于将罪犯该判除死刑或是徒刑，那只有法官才能判，而且也是在陪审团断定了这个人是否有罪之后。也就是说，将罪犯关进牢房的是监狱的看守，将罪犯处死的是刽子手。而拜厄利先生只不过是证实了真相，帮助了社会。说实在的，奎因先生，只是在您向我们提出了这事之后，我才对拜厄利先生的职业进行了了解。
　　我发现他在对法官表示自己结论性的意见时，从不要求判处死刑。
　　我还了解到，他还曾提出过废除极刑的主张。因此，他对犯罪精神生理学方面的研究机构曾慷慨地给予过资助。显然，他认为对犯罪者应当进行教育，而不是惩罚。我认为这一点是很有意义的。”

……

xjw311

而机器人呢~~~不解决" 疑问 "这件事~~~
光靠三定律是不能压制其智能的~~~~~~~

dazhuang07

有一天人类还在吗....