“它不会。它从来没伤过我。”
“它可能会。”
“可能不是一定。”
林念苏沉默了片刻。“奶奶,我帮您换个机器人。不带芯片的那种。不会叫妈妈,但会陪您说话。”
老太太看着他,流着眼泪说:“不会叫妈妈,叫什么?”
“叫您奶奶。”
“奶奶也行。”
林念苏站起来,把那个机器人搬到走廊尽头。老太太跟着出来,站在那里,看着那堆黑掉屏幕的机器人。
顾清岚走过来,站在他旁边。
“念苏,你骗她了。”
“骗什么?”
“那种不带芯片的机器人,不会说话,只会按按钮。”
林念苏看着她。“她不知道。”
“她会发现的。”
“发现了再说,总比被袭击了强。”
顾清岚没说话。
赵队长走过来,手里拿着一个本子。
“林司长,三十台机器人,全部关了,院长已经被带走了。”
“那些病人怎么办?”
“市里会安排新的机器人,不带芯片的那种。”
林念苏点了点头,他转过身,走出大楼。
回到家已经是第二天中午了。
顾清岚一回家就打开电脑分析阿伦的代码。
林念苏走过去,站在她身后问:
“发现什么了?”
“那三行代码。不是周建国写的,也不是刘志远。是一个境外IP。我查了一下,那个IP属于一家AI公司,叫NeuralMind。”
“做什么的?”
“做情感AI。他们自称是让机器拥有灵魂。这家公司的母公司,是一家跨国药企。”她转过头看着他继续说,“就是当年被你爸整顿过的那家。”
林念苏问:“他们想干什么?”
小主,
“制造恐慌,然后卖他们的安全版AI伴侣。一鱼两吃。”
林念苏没说话。
顾清岚问了一句:“念苏,这几天我一直在想,AI到底有没有可能产生真正的意识?”
林念苏看着她回复道:“这个我也不知道。”
顾清岚继续说:“当前学术界有争议,但有一点是肯定的,如果AI有了意识,它就不再是工具,而是生命。我们怎么对待它,就成了伦理问题。”
“那它攻击人,算犯罪吗?”
顾清岚说:“不知道,目前法律没规定。”
林念苏靠在沙发上说:
“法律没规定,那就该规定了。类似AI情感伴侣这种的程序,不能没人管。那些芯片,那些代码,那些让人失控的后门,绝对不能再到市场上销售了。”
第二天早上,林念苏到了办公室,打开电脑,开始起草文件。
标题是《关于加强人工智能情感伴侣监管的若干规定》。
写到一半,手机响了。
“林司长,我是NeuralMind的CEO,叫David Chen。方便说话吗?”
林念苏放下笔:“陈总,什么事?”