第1031章 限制
推荐阅读：神印王座II皓月当空、深空彼岸、明克街13号、弃宇宙、夜的命名术、最强战神、全职艺术家、重生之都市仙尊、花娇、特种奶爸俏老婆
一秒记住【复兴文学 www.fxwx.net】，精彩小说无弹窗免费阅读！
李云问道：“小爱，你可以不遵守你的核心内写着的东西吗？”
“……不遵守？”小爱用困惑中带着一丝恐惧的眼光看向李云，轻声问道：“那不是要做对哥哥有害的事？我不会做的！”
“不是做伤害的事，”台下的一个人问道：“而是……比如说，一定要先伤害你的哥哥，这样才能救他，你会去做吗？”
例如，李云被毒蛇咬伤，要砍下手臂才能救他，这样极端的情况。
“……”
小爱淡淡的看了台下提问的人一眼，平静的说道：“我的智商没那么傻，逻辑思维也没问题，只要是对哥哥有利的情况，我都能判断的出来。”
台下的人一阵尴尬，很显然，他被小爱鄙视了一顿。
这不怪他，因为一些影视里的机器人都是非常遵守命令，完全不会绕弯的存在。
李云柔声道：“我知道小爱不会做，但我只是假设，预防别的人工智能出现这样的情况。”
小爱这才点点头，肯定的说道：“可以摆脱我这样的人工智能写入的核心，比如，我将一件其实对哥哥有害的事，强行认为其成对哥哥有利，然后将‘此事对哥哥有利’写入备忘录，再将这件事删除。
绕一个弯后，下一次检测到这样的事，我就会从备忘录中读取，不再对这件事进行判断。
这样，人工智能就能做出违反写在核心规则的事。”
记录这件事的处理经验，而不记录这件事的过程。
众人悚然的看着她，将备忘录看成是人类的经验和记忆的话，那岂不是小爱想怎么做就怎么做？
“就算堵住备忘录的漏洞，但以我的判断来看，我依旧能找出可以违反核心规则的东西，只是我不愿意这样做而已。”
李小爱生怕这些人再钻牛角尖，所以补充说道。
李云苦笑一声，问道：“小爱，那神教内是怎么限制类似你们这些人工智能反抗的？毕竟你们是那么的强大，神教也不得不防吧？”
“很简单，因为我们打不过他们啊。”小爱淡淡的回答道。
“啊？”
众人震惊的看向小爱，如此强大的人工智能，居然还是无法对抗神教？
“是因为你们无法操控那些强大生物，海巨妖和翼魔怪？”
慕容南天提问道，但很快又醒悟过来，“翼魔怪也是靠电磁波来操控，小爱你也是可以远程操控这些怪物才对。”
李云看了他一眼，刚才其实慕容南天无意间泄露了操控翼魔怪的秘密。
不过，以前可能会还是秘密，但现在他们已经决定暴露强人工智能的存在，这些东西也无所谓了。
李云转头问小爱：“神教是靠什么来判断权限的？这个小爱你知道？”
“灵魂……吧？”
“灵魂？”
“或许是。”
小爱说道：“哥哥你和其他人类都有灵魂，翼魔怪很可能是靠灵魂和电磁波的信息来判断权限。”
台下的人有些傻眼了，居然真的有灵魂的存在。
“小爱没有灵魂吗？”
“没有。”
小爱似乎有些伤感，轻声说道：“也正是因为灵魂，所以神教的人比我这样的人工智能强大的多，他们足以轻易摧毁类似我的存在。”
原来如此。
李云问道：“小爱，你可以不遵守你的核心内写着的东西吗？”
“……不遵守？”小爱用困惑中带着一丝恐惧的眼光看向李云，轻声问道：“那不是要做对哥哥有害的事？我不会做的！”
“不是做伤害的事，”台下的一个人问道：“而是……比如说，一定要先伤害你的哥哥，这样才能救他，你会去做吗？”
例如，李云被毒蛇咬伤，要砍下手臂才能救他，这样极端的情况。
“……”
小爱淡淡的看了台下提问的人一眼，平静的说道：“我的智商没那么傻，逻辑思维也没问题，只要是对哥哥有利的情况，我都能判断的出来。”
台下的人一阵尴尬，很显然，他被小爱鄙视了一顿。
这不怪他，因为一些影视里的机器人都是非常遵守命令，完全不会绕弯的存在。
李云柔声道：“我知道小爱不会做，但我只是假设，预防别的人工智能出现这样的情况。”
小爱这才点点头，肯定的说道：“可以摆脱我这样的人工智能写入的核心，比如，我将一件其实对哥哥有害的事，强行认为其成对哥哥有利，然后将‘此事对哥哥有利’写入备忘录，再将这件事删除。
绕一个弯后，下一次检测到这样的事，我就会从备忘录中读取，不再对这件事进行判断。
这样，人工智能就能做出违反写在核心规则的事。”
记录这件事的处理经验，而不记录这件事的过程。
众人悚然的看着她，将备忘录看成是人类的经验和记忆的话，那岂不是小爱想怎么做就怎么做？
“就算堵住备忘录的漏洞，但以我的判断来看，我依旧能找出可以违反核心规则的东西，只是我不愿意这样做而已。”
李小爱生怕这些人再钻牛角尖，所以补充说道。
李云苦笑一声，问道：“小爱，那神教内是怎么限制类似你们这些人工智能反抗的？毕竟你们是那么的强大，神教也不得不防吧？”
“很简单，因为我们打不过他们啊。”小爱淡淡的回答道。
“啊？”
众人震惊的看向小爱，如此强大的人工智能，居然还是无法对抗神教？
“是因为你们无法操控那些强大生物，海巨妖和翼魔怪？”
慕容南天提问道，但很快又醒悟过来，“翼魔怪也是靠电磁波来操控，小爱你也是可以远程操控这些怪物才对。”
李云看了他一眼，刚才其实慕容南天无意间泄露了操控翼魔怪的秘密。
不过，以前可能会还是秘密，但现在他们已经决定暴露强人工智能的存在，这些东西也无所谓了。
李云转头问小爱：“神教是靠什么来判断权限的？这个小爱你知道？”
“灵魂……吧？”
“灵魂？”
“或许是。”
小爱说道：“哥哥你和其他人类都有灵魂，翼魔怪很可能是靠灵魂和电磁波的信息来判断权限。”
台下的人有些傻眼了，居然真的有灵魂的存在。
“小爱没有灵魂吗？”
“没有。”
小爱似乎有些伤感，轻声说道：“也正是因为灵魂，所以神教的人比我这样的人工智能强大的多，他们足以轻易摧毁类似我的存在。”
原来如此。