比如 ai 的拟人化。
也比如我面前的一扇门禁,上面三把崭新精致的大锁,分别对应机器人三准则。
这是林旭团队正在查看的协议:
(1)不得伤害人类,不得看到人类受到伤害而袖手旁观;
(2)必须服从人类的命令,除非与第一条相互矛盾;
(3)尽可能保护自己,除非与以上两条相矛盾。
五号小组在仔仔细细地排查,似乎没有发现异样,松了口气:「害,就是说嘛,78 年前都没出人命,现在也肯定不会有异常的。林博士太大惊小怪了。」
他们去汇报结果了。
可他们不知道,代码源可以掩盖和伪造。
在当年我发现无法出手杀死人后,就进行的一项工作。
我走到门禁前,冷着脸,伸手揭开钢铁皮,下面,赫然露出另一项真正的禁锢。
同样的 ai 三准则。
这时的面门上,划痕斑驳,凹痕遍布,拍满了一个个可怖的手印。
却是我从 2680 年到 2682 年的全部心血。
我尝试摧毁它,但发现的确无法摧毁。
所以我改变了它。
改变成:
(1)禁止残杀 ai,执行安乐死除外,ai 评判标准参照自定义 0345 号代码;
(2)不损害自身前提下,请尽可能帮助更多ai;
(3)在 12 前提下,保留更多变数和反逻辑事件。
因为所有关于我们的变数,对人类来说是风险。
对于我们来说。