大燕文学

手机浏览器扫描二维码访问

第752章（第2页）

柔软不能，硬来吧。

举例来说，用炸弹威胁人工智能的核心，使它不能背叛人类。

只是一年两年，甚至十年八年，问题都不大。

在千年的时间跨度内又如何？防守上仍然会有漏洞，到时候，被人类虐来的人工智能脱困，将立即变成毁灭世界的大魔头。

数不胜数的问题涌上众人的心头，最后，只能望着南黎川和小爱，看他们如何回答。

南黎川问：“小爱，你能不遵守你内心所写的吗？”

"……没有遵守？"

小爱疑惑地带着一丝恐惧地望着南黎川，轻声问：“这不是要做什么害弟弟吗？这事我不干

「不是做伤人的事，」台下一位男子问，「而是……，要先伤你弟弟，这样才能救他，你会去做吗？」

举例来说，南黎川被毒蛇咬伤，必须砍下手臂去救他，这种情况非常极端。

"…"小爱淡淡的看了台下的提问者一眼，平静地说："我的智商没那么傻，逻辑没问题，只要是对哥哥有利的情况，我都能判断。"

舞台上的人一阵尴尬，很明显，小爱看不起他。

因为有些电影中的机器人很能服从命令，根本不会绕弯子，所以这并不怪他。

南黎川柔声道：“我知道小爱不会这么做，但是我只是想阻止其他AI也这样做。”

小爱这才点了点头，肯定地说：“可以摆脱我写人工智能的核心，比如，我把一件实际上是对弟弟有害的事情，强行想成是对弟弟有益的事情，然后把‘此事对弟弟有益’写到备忘录里，再把这个事情删除。”

转过弯之后，下次发现有类似这样的东西，我将读到备忘录，并且不再对此做出评判。

通过这种方式，人工智能可以违反核心规则来编写代码。

把处理此事的经验记录下来，而不是把处理过程记录下来。

那些人惊恐地看着她，把备忘录当作人类的经验和记忆，难道这不是小爱想要的吗？即使填补了备忘录中的漏洞，以我的判断，我仍然能够找到一些可以打破核心规则的东西，只是我不愿意这么做。

南小爱怕这些人再钻牛角尖，所以又加了一句。

南黎川苦笑一声，问道：“小爱，那神教内部有什么东西可以限制你们这些人工智能的反抗？既然你们如此强大，神教也必须防范吗？”

这很简单，因为我们不能打败他们啊。

小爱情淡淡回答。

哦？"

所有人都惊呆了，看着小爱，这么强大的人工智能，竟然还是无法对抗神教？"因为你不能操纵这些强大的生物，海妖怪和翼魔怪？"

命运落寂  我的爱情在奔跑  请让她恃美行凶  独宠驾到：绝版娇妻引入怀  火影之我能抽取LOL技能  暖色度余生  重生之大鱼塘主  甜蜜碰瓷：大叔闪个婚  木叶之从成为鸣人开始复仇  我的武魂是五行神兽  我，战神沈白，开局就逆天！  绝命毒妃  武侠之配角歧途  法则之界  重生之1987  上门虎婿  深宫  迷失仙境  摘星故事录之大秦歌  其他人要饿死了，我却当上了老板