东原养生网-排行榜单

遵循AI的人们已经知道互联网名人机器人公民Sophia的言行。索菲娅(Sophia)的伟大之处在于,它可以快速识别人的脸并用眼睛和文字与人交流。根据其创建者David Hansen的说法,Sophia的目标是拥有人类意识,创造力和其他能力。但是一旦他们背叛了人类,那么机器人越强大,对人类的反应就越大。乐观主义者认为人类有教育,宗教,信仰和理想吗?但是,如果像Sophia这样的许多机器人忽略了这些怎么办?

阿西莫夫三大原则与定律(机器人三大原则漏洞)

如果美国机器人之父阿西莫夫(Asimov)还在,那索菲亚无疑会给他沉重的“面子”。阿西莫夫(Asimov)出生于1920年,被誉为科幻小说三巨头。他写的关于机器人的三本小说系列被称为“科幻圣经”。他最重要的成就是提出了“机器人三定律”,即“现代机器人学的基石”。

阿西莫夫三大原则与定律(机器人三大原则漏洞)

我从治沪看到一些信息,许多作家认为该法律并不完善,他们增加了第四版和第五版的各种版本,这些都是废话。目前,即使是三项基本法律都没有得到很好的执行,因此有像索菲亚这样的遗漏。谈论第四和第五定律。请问,有用吗? !

阿西莫夫三大原则与定律(机器人三大原则漏洞)

结合索菲亚的案子,让我谈谈为什么阿西莫夫被殴打。

1.阿西莫夫在1940年至1950年间制定并完全提出了这三个定律,然后出现了人工智能。人工智能的名称是在1956年提出的。因此,Asimov的目标是仅执行人工命令的自动化机器人,而不是智能机器。当时的机器人仍然非常缺乏智能,并且今天不能面对许多道德和法律问题。

阿西莫夫三大原则与定律(机器人三大原则漏洞)

2.阿西莫夫的三部法律宣布后,他也遇到了许多困难和问题。有兴趣的朋友不妨在百度或微信上搜索。阿西莫夫本人认真讨论了这些问题。在后来出版的最后一部著作《机器人与帝国》中,他提出了“零定律”,比“三定律”更为重要。这是为了防止机器人从根本上违反这三个定律。

阿西莫夫三大原则与定律(机器人三大原则漏洞)

3.作为约束机器人的基本法律,不应违反阿西莫夫的三项法律。一旦受到侵犯,其权威和约束力就会受到质疑。 -现在挑战来了!索菲亚所说的“毁灭性人类”和“统治人类”,从根本上违反了阿西莫夫的三定律和零法则。从法律上讲,这等同于根本上的违反合同,索菲亚应承担所有后果。如果我们保持沉默并允许忽略和违反机器人技术的三个定律,则可以假定这三个定律是无效的。

阿西莫夫三大原则与定律(机器人三大原则漏洞)

4.问题在于,对机器人的语言侵犯不是对行为的侵犯。根据人类法律,语言和行为之间存在界限,尚未实施的语言不能视为行为。但是语言表达在执行过程中被视为其行为的一部分。索非亚的口头威胁是否不被视为行为表现,这仍然是一个见解。但是,请不要忘记Sophia是与人交流的机器人,而语言是其行为和表达的主要方式。如果要在阿西莫夫面前如此公然的挑衅,人们应该怎么感觉?

阿西莫夫三大原则与定律(机器人三大原则漏洞)

5.鉴于上述原因,我建议机器人学的三大定律有一个适用范围:在弱人工智能时代,这是一个强律,在强人工智能时代,它只是一个定律。弱定律,并且在超级人工过程中,在智能阶段可能是无效的规则。为什么?因为当时的机器人具有自我意识,甚至具有超自我意识,所以它会服从自我理解和判断,所以还能执行像您这样的简单命令吗?一旦以这种方式执行,其智能系统将被削弱,专业表现将受到限制。在履行业主的命令之前,它很可能会自愿救人,灭火,并照顾老人。这是要把超级人工智能贬低给保姆。值得吗?

阿西莫夫三大原则与定律(机器人三大原则漏洞)

6.如果您不想让阿西莫夫失望,人们应该考虑如何惩罚罪犯。通过索菲亚事件,人们相信人工智能面临的道德和法律问题将很快浮出水面。科技巨头可能会呼吁有个会议。此前的一份报告称,欧洲议会正在澄清相关事故后自动驾驶和人工智能相关法案的责任,并“并要求人工智能机器人配备自毁按钮”。报告还说,这些努力仅仅是开始。

热门精选

大家都在看