机器人三原则断想
2007-12-17 23:14
机器人三原则：一、机器人遵循人类自己的利益。二、机器人遵行人类的命令，除非与原则一冲突。三、机器人保护自己的利益，除非与原则一、二冲突。
看完《机械公敌》，这部原著出于阿西莫夫阿翁笔下经典"I,Robot"的电影，若有所思，得出结论是：这样的机器人不可能存在，或者，存在有机器人，但绝做不到三原则。问我为何，草申其说。
“遵循人类的利益”，查阿翁原文，却是我默写错了，相差甚远：“A robot may not injure a human being or,through inaction,allow a human being to come to harm.”机器人不能伤害或间接伤害人类。此说法消极，仅仅“不能伤害”，仅仅能够说明机器人免于“不存在”的条件，而不能成其为存在的理由。机器人存在的理由，自然是作为工具，方便生活，收受利益。
那么，如果原则一里的“人类”与“机器人”仅指主仆两个独立的个体，看原则一能否做到。“机器人遵循人类的利益”，但是利益的所有者才是利益的完全享有者，才有利益的最终解释权，因此才是利益的唯一行使者
囿于本人的逻辑能力，加上文化差异，电影虽然编排得很好，可惜对我始终存在说不出的隔阂。电影选择的切入视角很好，当每个人都觉得机器人是严格遵守三大定律时，有个受过机器人救助但反感其理智超过情感选择的警察却不这么认为。而故事也正是这么安排的，因为如果人类自己伤害自己这种情况并没有出现在三大逻辑里，于是机器人中枢更改了程序，机器人想要控制人类。但一开始又把嫌疑指向USR高层企图大规模推广存在缺陷的机器人NS5进而渔利。可惜自己没有理解。
很难想象投资达到1亿美元，机器人打斗没有那么炫丽、壮观，应该是自己对现代机器人的了解还需进一步加深。
［简单说］
好莱坞从来都是大片烧钱，这部［机械公敌］亦然。虽然很不喜欢好莱坞这种影片流水线的做法，但就于视觉上的感觉，机械公敌还是值得一看。
关于机器人，很少有既有场面、又很深度的影片。机械公敌在影片的内涵上显然花的功夫很浅，在对机器人与人之间的关系的讨论上，近似于莫不关心，丝毫没准备去深究。
阿西莫夫著名的三大定律，在这部影片里其实成了影片本身剧情的借口。这也是我为什么喜欢押井守作品的原因，押井守影片里充满了对生命、对未来的沉思，人与机器人亦然。
经典机器人三定律，化学家、科幻大师阿西莫夫在他的短篇集《我，机器人》中成型。虽说只是科幻小说中的理论，但在现实中已成为“机械伦理学”的基础：
A robot may not injure a human being or, through inactive, allow a human being to come to harm;
机器人不得伤害人类，或者不得置人类于危难中；
A robot must abey orders given by human beings except where such orders would conflict with the First Law;
机器人必须服从人类的命令，除非与第一定律冲突；
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
机器人可以在不与第一、第二定律冲突情况下维护自身存在。
除了以上三条科幻经典中的定律，还有人给出了新机器人三定律。哈哈，明显是某个遭遇抄袭的大侠的杜撰：
Do not copy content you did not create;
不得复制非原创作品内容；
Do not infringe upon the trademarks of content created by others;
不得侵犯他人版权内容；
这片子涉及的机器人相关的主题很丰富，包括意识、情感、灵魂、价值观的探讨，人对机器文明的反思，机器的自我觉醒和自由的权利等等，其中的这段旁白配合在史密斯追寻答案的过程中，渲染的效果很棒：
机械中一直有“幽灵”的存在
随意的代码组合在一起
形成意想不到的模式
或可称之为行为
令人意想不到的是，这些自由的基础结构
竟想探究自由意志
创造性…
甚至我们所称的灵魂
为什么被丢在黑暗中时
他们寻求光明？
为什么被闲置存放时
他们会彼此寻找而不是独自站立？
我们如何解释这种行为？
随机的代码？
还是不止如此？
一个能感知的模式化构造何时生成了意识？
一个与众不同的机器何时变成了对真理的追求？
一个模拟的性格又是何时成为了一个苦涩的灵魂尘埃？
这只是一次选修课作业，我顺便就把它放上来当影评了。
当我以为这是一部关于机器人不值得信任的科幻电影时，电影画风一转，将矛头指向了一个可疑的高层人物。我认为这是一部关于个人企图利用机器人毁灭人类自由意志的类似于1984的电影时，那个可疑的高层却又可疑的死了。最后我终于搞清了，这其实是一部关于一个机器人企图利用机器人来奴役人类，从而探讨机器人是否值得信任的科幻电影。作为一部经典的科幻电影，《机械公敌》却像一部悬疑电影一样，通过多次的反转，才让人拼出了整个剧情。我想，编剧们可能是想通过这部电影和这些转折来告诉我们，AI的问题永远都不会是一个简单的非黑即白的问题，而是涉及到科技，伦理，哲学和宗教信仰的复杂问题。所以，我想通过这部科幻片浅显地谈谈关于AI 的一些表面的问题。
首先，人类为何明知道AI 可能危害自己还执意要发展AI技术，企图造出比人类更加强大的机器人？我想，第一个原因就是所有关于AI的演讲，文章，科幻小说，还有电影里所表现出来的原因，那就是人类需要一个仆人来替越来越懒惰
我，机器人：机器人何时君临天下？
转载请注明网址: https://www.ly11z.com/movie/id-389.html
