第(2/3)页


第81章 三法则与恐怖谷
　　给约束住。”

　　法律加道德都根本没有办法管理好所有的人类，否则监狱里面就不会存在那么多罪有应得的罪犯，莫名的想法和态度其实非常简单——与其想尽一切办法去约束以及管控那些有能力反对我们的人工智能，我们为什么不从根本上解决问题，直接就让这些人工智能不可能达到如此之高的水平呢？

　　负责提供家政服务的机器人只要具备做各式各样的家务的能力就好，提供医疗服务的机器人也只需要具备照顾人的能力就好，通过这种将一个人工智能所能够掌握的技能进行规定区域的划分的方式，拥有足够大的成长潜能的人工智能，就没有办法获取那些对它来说根本就不必要的、来自于其他领域的知识或者技能。

　　“搞不明白经济，也根本就不会政治，更加不可能玩得转军事，针对这样的人工智能，你认为它有那个能力推翻现任统治者随后夺取政权，从而在整个国家内部实行它所想要的独裁统治吗？”

　　“而且，不光是限定了它们究竟能够学习以及掌握来自于哪一个领域的知识以及技能而已，假如我们对这些人工智能的成长上限也设定了一个天花板呢？”

　　许许多多的民用人工智能确实可以因为自己所提供的服务的片面性，而单纯只掌握来自于某一两个领域的专业知识和技能，但是，另外还存在一些别的人工智能是不能够被单纯划定归属于某一个领域的。

　　于是，针对这种需要学习以及掌握很多个领域的基本技能的人工智能而言，设定它们所能够取得的成长上限，以此避免它们拥有太过于超越人类极限的能力，这样一来，对人工智能加以管控同样能够达到一样的效果。

　　“就比如说像是宠物类的人工智能，动物虽然能够在一定程度范围内拥有足够高的智力，但是，假如不对这类人工智能加以节制，那么它们总有一天会通过自身的成长，而达到智慧能力完全突破一只动物所应该拥有的程度的阶段。等到那个时候，原本养在家里的动物也就不再是动物了，主人想要继续把它当作自己心爱的宠物吧，这家伙不再是动物，可要是选择将这家伙看作是个人类吧，主人也根本就做不到，这不干脆就是在自己给自己找麻烦吗？”

　　说到这里，甚至于还非常主动地和园冶提前了恐怖谷效应，而这样的一个名词，园冶在上辈子还没有去世的时候同样也是接触过的。

　　恐怖谷理论是一个关于人类对机器人和非人类物体的感觉的假设——它在二十世纪七十年代时由日本机器人专家森昌弘提出——即：人类对非人类物体以及机器人所拥有的好感，会伴随着这些物体与真人相似度的提高，而呈现出先上升，随后忽然间猛降，接着再上升的趋势。

　　由于仿照人类设计制作的这些非人类的物体与人类在外表﹑动作上相当相似，所以，人类会对这些物体产生正面的情感，例如很多人都非常喜欢洋娃娃，愿意给它们穿衣服梳头发，玩像模像样的家家酒游戏。

　　这样的好感度一直如同爬坡一般，呈现出上升趋势，直至到达一个特定的相似程度，这时候，人类对这些物体所拥有的好感会突然之间下降，好比说某些等身大小的蜡像会让人感觉面色青白好似死尸，以及医学或者生物学所使用的假人，尽管是为了能够让学生更好地掌握人体的内脏结构所以才特地制作成了这个样子，但是却依旧还是会让人感觉毛骨悚然，如同面对着一具被人开膛破肚的尸体。

　　原本爬坡的曲线在这个时候陡然之间下降，如同在山坡上面制造出了一个山谷。正是由于这条横坐标为相似度、纵坐标为好感动的曲线拥有这样的形状，因此这样的现象才会被称之为恐怖谷效应。

　　“原本

　　5200小说网阅读网址：https://m.xs5200.net