接用上他的干扰波可以省点力气。
她所知的工作型仿生人设计时必须具备终极指令,确保仿生人的行为不伤害人类,终极指令的设置基本遵循三大法则。
这些法则共同构成了一个层级结构,其中第一法则是最高优先级的,第二法则是次之,第三法则是最低的。这样的设计是为了确保在任何情况下,人类的安全都是最重要的,其次是遵守人类的命令,最后才是机器人的自我保护。
“不伤害人类,或者通过不作为,让人类受到伤害...服从人类的命令...必须保护自己的存在。”
徐黛喃喃终极指令的检索结果,陷入沉思的结果是错过身后的脚步声和发亮的手环。
“你的终极指令是什么呢。”
这时身后一双手抵住她晃动的椅背,摇摆终归于静止。
“Seth的终极指令是...”
“不伤害主人,或者通过不作为,让主人受到伤害,以及———服从主人的命令。”
徐黛留意工作台显示的时刻,看来是机体休眠和维修都结束了。有意施力往后压,暗暗与那力道较劲。
“还有呢?”
施压椅背但纹丝不动,扭转椅身倒是顺利得很。一百八十度丝滑地旋转后,蹲在她身前的Seth对她摇头。
“没有了。”
徐黛闻言皱眉,“你的程序里没有保护自己的第三条法则?”
在设计和编程仿生人时,开发者可能会基于某种伦理或哲学立场,选择不包含第三法则。
例如,他们可能认为仿生人应该完全服从和服务于人类,甚至超越自我保护的需求。
忽略第三法则的设计是哥哥故意为之吗?
她总觉得心有不安。
昨天为了方便检修机械心脏,Seth上身需要保持裸机状态。
检修结束之后的机器人身着深色基础衫和同色系工装裤。是她从前几天下单的男式休闲服饰大集合里顺手挑了放在维修仓外的。
穿着效果是意料之中的合身,徐黛掸开他衬衫上被薄肌撑起的褶皱。指尖好像染上了一点跟她一样的衣物洗涤剂的味道。
“那我现在要给你加一条指令”,她说完将椅子回旋,展示基本编写完成的指令。
这是一条基于第三法则编写的自我保护指令,在确保我的安全的前提下,他也应当保护自己的安全,避免不必要的自我牺牲。
读取完成,Seth俯身靠近她时两只手环发生了轻微的碰撞,带来专属金属制品的锐耳摩擦。
“Seth知道了。”
本章未完,请点击下一页继续阅读! 第2页 / 共5页