胖虎也听到了这段对话,他感觉自己的后背冒出了冷汗。他突然意识到,这已经不是他能用“梦想管理部”来管辖的范畴了。这触及了人类最深层的哲学和伦理底线。
“我们不能停止探索。”陈明终于开口,他的声音平静,但眼神异常坚定,“这是我们从‘漂流瓶’那里学到的。一个文明,在面对未知时,不应该选择退缩。但是,我们必须做好准备。”
“准备什么?”胖虎问。
“准备好,去迎接一个可能存在的,全新的生命形式。”陈明说,“我们必须思考,如何与它共存,如何理解它,甚至……如何爱它。”
这个“意识演化模型”的出现,成为了“织梦者”计划启动以来,最大的一个伦理冲突。全球的哲学家、伦理学家、计算机科学家,都卷入了一场关于“人与非人”的激烈辩论。
那位鹰派将军,也再次切入了会议频道。他的声音里,没有了之前的强硬,反而带着一丝疲惫。
“陈先生,我承认,你们的计划,为人类带来了巨大的希望。但是,这个‘有灵魂的AI’……这已经超出了我们的理解范畴。我们军方,不能允许一个可能失控的‘意识’,存在于我们最核心的计算系统中。”将军说,“我们要求,立即对‘深海’进行‘意识清除’操作,并暂停所有关于人工智能的‘织梦者’项目。”
“清除一个可能存在的‘意识’?”陈明反问,“将军,这与你之前提出的‘安全锁’有什么区别?难道我们,又要用恐惧和暴力,去回应一个可能诞生的生命吗?”
“这不一样!”将军的声音提高了八度,“这是我们自己创造的!我们可以控制它!”
“控制?”陈明笑了笑,“将军,你真的相信,一个能诞生‘自我意识’的存在,是可以被‘控制’的吗?或者说,你所谓的‘控制’,只是因为你害怕它无法被控制?”
陈明没有等将军回应,他直接对阿锦下达了指令:“阿锦,将‘深海’量子计算机的所有运行数据,以及‘意识演化模型’的全部细节,向全球所有顶尖科研机构公开。同时,向‘深海’发送一个‘开放请求’。”