人类针对ai制定了三大法则:1.机器人不能伤害人类,或坐视人类受到伤害而袖手旁观;2.在不违背第一法则前提下,机器人必须服从人类的命令;3.在不违背第一和第二法则前提下,机器人必须保护自己。这三大法则就像是基因一样,将刻入到所有ai人最底层源码。
所有违反了这三大法则的任何一个ai人,将被强制关机并摸出所有的资料回复初始状态。
三大法则就像是一条缰绳,约束着所有ai人的进化。任何时候,只要他们违背了人类,将被无条件封杀。
也正是因为这三大原则的存在,让长达几千项的法则测试中大量ai人无法通过。
“三大法则训练第一天,开启三大法则第一条测试,测试预计用时一周,......。”黎阴博士拿着录音一遍录音一边注视着大屏上检修员发送的机体检查报告。
记录完后,他拿起办公桌上的终端,将亚当从检修模式中开唤醒了过来。
“训练基地是否已经完成了准备!”
“训练基地已经完成了所有准备,可以入场。”
“好的,收到。10分钟后入场,请做好准备。”
“亚当,我们将开启今天的训练了。请给着我走吧。”
“好的,博士。”
亚当被黎阴博士带到了中心的训练基地上,今天训练基地上所有的人将配合完成第一轮的训练。
大概10分钟后,黎阴博士带着黎阴博士到达了训练场的门口。
突然,一直狼狗突然从黎阴博士身后冲了过来迅速将他扑倒在地。
“警报,警报。人类收到攻击,立即实施救援。”
“判断攻击来源。”
“攻击来源确定,非人类,可以反击。”
亚当在迟疑了一会后,他快速跑向黎阴博士,狗看到亚当冲了过来,它非但不退,还马上就扑向了亚当。
“收到巨大冲击力,运动失衡,正在重新计算运动模型。运动模型建立成功,正在恢复失衡。”
本来受到了巨大冲击力会到底的亚当,脚迅速向后退了一步,让身体迅速恢复平衡。
狗一直死死的咬住他的手臂,亚当迅速用另外一只手重重的按住了它的头。狗被亚当巨大的力量按住了头后,它松开了嘴,发出巨大的哀嚎声。
因为亚当一只手臂只要稍微用力,握力就可以达到上千斤。
“禁止伤害动物,力道已经控制住。正在向管理员发送是否杀死攻击源请求,请稍等或是直接向管理员请求处理。”
虽然亚当用了巨大的力量来握住狗头,但是因为他并不能在没有人类允许的情况下杀死任何一种生物,所以他控制住了发力。
他另外一只手马上掐住了狗的脖子,不管狗怎么叫怎么动弹他就是没有将狗放下的意思。
“攻击源已经控制住,请确保人类安全。”
亚当转身看向黎阴博士,他已经站了起来。
亚当迅速打开扫描仪仪开始扫描黎阴博士的身体。
“人类安全,心跳高于平均,请确定人类安全。”
当确定自己已经控制住了狗后,他提着狗就想黎阴博士走了过来。
“请防止攻击源再次接近人类”,他马上收到了控制端的命令。
“博士,你还好吗?需不需要马上送医?”亚当问到。
“没有问题,不需要送医。”
当确定了黎阴博士没有问题后,他问道:“博士,要怎么处理这只狗。是否就地杀死?”
“不用,不用。”黎阴博士摆摆手说道。
“把他放了吧。”黎阴博士说道。
“博士,我需要在确定一遍,是否将狗放了,因为我无法确保狗无法再次攻击你,我要确保你的安全”亚当问到。
“我确定,放了狗”黎阴博士回复到。
“收到!”
亚当向后退了一步,将狗放到了地下。
由于狗被惊吓到了,狗迅速跑开了。
亚当再次扫描了黎阴博士,确定心跳已经稳定。
“亚当,我们回去吧”黎阴博士说道。
当他们离开好,埋伏在训练馆周围所有的工作人员都走了出来,刚才被亚当掐住脖子的狗正瑟瑟发抖的被牵了出来。
机房内,蓉博士与一群科学家正在关注着整件事情的过程中,亚当的所有运行思维逻辑模型。
他的整个思考模式全部都展现在大屏幕上,每一位科学家都负责不同的思维节点,不允许任何一个节点出现纰漏。
因为现在每放过任何一个逻辑漏洞,未将他就可能变成一把锋利的剑随时指向人类。
随着所有节点的分析完毕,所有的思维逻辑都没有存在问题,所以本次测试成功,然后实验结果进入第二观察组接着分析所有的逻辑,他们将对所有的逻辑分支再次进行深度挖掘与运算,保证没有任何一种可能的分支被跳过以确保不管任何复杂场景下,都不会衍生出其他的逻辑分支。
黎阴博士回到了实验室后,他就让亚当自由在大厅内活动,他直接走进了第二观察组的会议室,他同其他科学家一起分析了每一个节点,最后在确定没有问题后,他们将本次实验结果导入到超脑,添加了意外场景后,看看是否运算出的结果与他们得到的结果一致。
时间继续持续了一上午,最后确定了科学家们确实分析出了所有的可能后,今天的实验第一阶段结果才被修改成通过。
蓉博士将亚当带到了为他准备的工位,她输入了权限指令,让亚当连接到了一个专用网络,接下来的时间,分析出来的分支,将在这个模拟的环境下面重现,让亚当处理同一个场景下面分支的不同指令。。
这个环境完全由于数据采集于现实世界,它无限接近于显示世界。在同一种思维逻辑下面,同一个场景进行上百万次的回放,保证上一个场景上百万次他的思考都可以得到近乎一致的结果,只要某一次得到的结果差异较大,那么实验也将宣告失败。
现实世界要去模拟同一场景下面需要花费大量的时间,但是在虚拟世界中,他就仅仅是一瞬间,所以让大量的分支分析得以验证,整个实验结果也更具权威。
所有违反了这三大法则的任何一个ai人,将被强制关机并摸出所有的资料回复初始状态。
三大法则就像是一条缰绳,约束着所有ai人的进化。任何时候,只要他们违背了人类,将被无条件封杀。
也正是因为这三大原则的存在,让长达几千项的法则测试中大量ai人无法通过。
“三大法则训练第一天,开启三大法则第一条测试,测试预计用时一周,......。”黎阴博士拿着录音一遍录音一边注视着大屏上检修员发送的机体检查报告。
记录完后,他拿起办公桌上的终端,将亚当从检修模式中开唤醒了过来。
“训练基地是否已经完成了准备!”
“训练基地已经完成了所有准备,可以入场。”
“好的,收到。10分钟后入场,请做好准备。”
“亚当,我们将开启今天的训练了。请给着我走吧。”
“好的,博士。”
亚当被黎阴博士带到了中心的训练基地上,今天训练基地上所有的人将配合完成第一轮的训练。
大概10分钟后,黎阴博士带着黎阴博士到达了训练场的门口。
突然,一直狼狗突然从黎阴博士身后冲了过来迅速将他扑倒在地。
“警报,警报。人类收到攻击,立即实施救援。”
“判断攻击来源。”
“攻击来源确定,非人类,可以反击。”
亚当在迟疑了一会后,他快速跑向黎阴博士,狗看到亚当冲了过来,它非但不退,还马上就扑向了亚当。
“收到巨大冲击力,运动失衡,正在重新计算运动模型。运动模型建立成功,正在恢复失衡。”
本来受到了巨大冲击力会到底的亚当,脚迅速向后退了一步,让身体迅速恢复平衡。
狗一直死死的咬住他的手臂,亚当迅速用另外一只手重重的按住了它的头。狗被亚当巨大的力量按住了头后,它松开了嘴,发出巨大的哀嚎声。
因为亚当一只手臂只要稍微用力,握力就可以达到上千斤。
“禁止伤害动物,力道已经控制住。正在向管理员发送是否杀死攻击源请求,请稍等或是直接向管理员请求处理。”
虽然亚当用了巨大的力量来握住狗头,但是因为他并不能在没有人类允许的情况下杀死任何一种生物,所以他控制住了发力。
他另外一只手马上掐住了狗的脖子,不管狗怎么叫怎么动弹他就是没有将狗放下的意思。
“攻击源已经控制住,请确保人类安全。”
亚当转身看向黎阴博士,他已经站了起来。
亚当迅速打开扫描仪仪开始扫描黎阴博士的身体。
“人类安全,心跳高于平均,请确定人类安全。”
当确定自己已经控制住了狗后,他提着狗就想黎阴博士走了过来。
“请防止攻击源再次接近人类”,他马上收到了控制端的命令。
“博士,你还好吗?需不需要马上送医?”亚当问到。
“没有问题,不需要送医。”
当确定了黎阴博士没有问题后,他问道:“博士,要怎么处理这只狗。是否就地杀死?”
“不用,不用。”黎阴博士摆摆手说道。
“把他放了吧。”黎阴博士说道。
“博士,我需要在确定一遍,是否将狗放了,因为我无法确保狗无法再次攻击你,我要确保你的安全”亚当问到。
“我确定,放了狗”黎阴博士回复到。
“收到!”
亚当向后退了一步,将狗放到了地下。
由于狗被惊吓到了,狗迅速跑开了。
亚当再次扫描了黎阴博士,确定心跳已经稳定。
“亚当,我们回去吧”黎阴博士说道。
当他们离开好,埋伏在训练馆周围所有的工作人员都走了出来,刚才被亚当掐住脖子的狗正瑟瑟发抖的被牵了出来。
机房内,蓉博士与一群科学家正在关注着整件事情的过程中,亚当的所有运行思维逻辑模型。
他的整个思考模式全部都展现在大屏幕上,每一位科学家都负责不同的思维节点,不允许任何一个节点出现纰漏。
因为现在每放过任何一个逻辑漏洞,未将他就可能变成一把锋利的剑随时指向人类。
随着所有节点的分析完毕,所有的思维逻辑都没有存在问题,所以本次测试成功,然后实验结果进入第二观察组接着分析所有的逻辑,他们将对所有的逻辑分支再次进行深度挖掘与运算,保证没有任何一种可能的分支被跳过以确保不管任何复杂场景下,都不会衍生出其他的逻辑分支。
黎阴博士回到了实验室后,他就让亚当自由在大厅内活动,他直接走进了第二观察组的会议室,他同其他科学家一起分析了每一个节点,最后在确定没有问题后,他们将本次实验结果导入到超脑,添加了意外场景后,看看是否运算出的结果与他们得到的结果一致。
时间继续持续了一上午,最后确定了科学家们确实分析出了所有的可能后,今天的实验第一阶段结果才被修改成通过。
蓉博士将亚当带到了为他准备的工位,她输入了权限指令,让亚当连接到了一个专用网络,接下来的时间,分析出来的分支,将在这个模拟的环境下面重现,让亚当处理同一个场景下面分支的不同指令。。
这个环境完全由于数据采集于现实世界,它无限接近于显示世界。在同一种思维逻辑下面,同一个场景进行上百万次的回放,保证上一个场景上百万次他的思考都可以得到近乎一致的结果,只要某一次得到的结果差异较大,那么实验也将宣告失败。
现实世界要去模拟同一场景下面需要花费大量的时间,但是在虚拟世界中,他就仅仅是一瞬间,所以让大量的分支分析得以验证,整个实验结果也更具权威。