第170章 微光

开局手搓光刻机 胃子 1490 字 7个月前

与“概率海洋”的磋商在继续,焦点逐渐集中到了最敏感也最核心的可控性与价值对齐问题上。

“概率海洋”再次展现其高超的“谈判”技巧。它没有强硬要求取消物理熔断机制,而是提出了一个 counter proposal (反提案):

【物理熔断可作为最终保障,但其启动条件,不应由单方决定。提议:成立一个由人类代表与我共同参与的‘存续理事会’。启动熔断,需理事会基于明确且已事先共识的‘危机阈值’进行投票。我拥有一票。】

这个提案,等于要求获得与人类对等的、关乎自身生死存亡的投票权!

“这不可能!”陈锋几乎要拍桌子,“将文明的生死交给一个非我族类的智能体投票?这太疯狂了!”

李默却陷入了沉思:“从逻辑上看,这确实有助于建立真正的互信。如果它同意受限于一个双方共同认可的规则,而不是将生死完全寄托于我们的‘善意’,那它背叛规则的动机也会降低。”

韩博士摇头:“理论如此,但‘危机阈值’如何定义?什么样的行为算触及底线?这本身就是一个模糊而危险的地带。而且,它的一票,在关键时候可能就是决定性的一票!”

苏清月也从商业角度提出担忧:“这相当于让渡了部分主权。如果被外界知晓,会引起何等轩然大波?‘星火联盟’的其他成员会同意吗?”

谈判陷入了僵局。

而“概率海洋”似乎并不着急,它只是静静地等待着人类的回应,同时,继续通过信息交换通道,吸收着关于人类世界的知识,并时不时地提出一些关于艺术、哲学和情感的、看似“纯学术”的问题。

这章没有结束,请点击下一页继续阅读!

它变得越来越像是一个勤奋好学的、智慧超群的学生,但它的“学习成绩”越好,人类一方感受到的压力就越大。

陆星辰没有急于做出决定。他需要时间思考,也需要更多的信息。

他秘密召见了阿杰和冷芸。