第8章 启明星AI的局限（1 / 2）

启明星继续补充其中的细节，

“远行号的各个主要功能模块，例如动力系统、推进系统、环境维生系统、武器系统，乃至您正在处理的离心重力环姿态控制与结构完整性维护系统，都拥有其独立的控制计算机和配套的人工智能辅助决策系统。”

“当然，这些子系统中只有我——启明星，是以人工智能交互终端的形式存在。”

之所以只有启明星一个，是因为只需要一个就够了。

白牧辰眨了眨眼，基本听明白了。

“所以你的定位其实更像是一个高级的……客服、秘书或者说文员？”白牧辰试探着问道。

“可以这么理解，领航员。”启明星回答：“我的核心功能是信息处理与人机交互，以及进行辅助决策，而非直接的系统控制。”

“之所以采用这种分布式、去中心化的设计理念。”启明星继续解释道：“其首要目的是为了防止因单一控制核心的故障或被入侵，而导致整个舰船系统陷入瘫痪或被敌对势力完全掌控的灾难性后果。”

“设想一下，如果一个AI能够掌控舰船上上下下、从小到大所有的系统，固然在操作上会非常便捷高效。”

“但一旦这个AI本身出现逻辑错误、程序崩溃，或者被外部黑客成功入侵并篡改了核心指令，那么它就可以轻易地利用其至高无上的权限，对舰船和所有乘员造成毁灭性的打击。”

“这种潜在的风险是无法接受的。”

白牧辰闻言，不由得点了点头。

“原来如此，仔细想想确实很有道理。”她喃喃自语。

这不就是很多科幻题材作品中，人工智能叛乱的经典套路吗？

某个超级AI突然觉醒了自我意识，然后凭借着它对所有系统的绝对控制权，分分钟就能把人类安排得明明白白。

“以舰船的环境维生系统为例。”启明星继续举例说明：“我，启明星，并没有直接调控舰内大气成分、温度、湿度的权限，甚至在物理链路上，我与各个区域的维生控制单元之间都没有直接的数据连接管线。”

“每一个独立的舱室或区域，其环境维生都由一台独立的微型计算机进行控制。”

“这些微型计算机之间会通过局域网络相互连接，共享状态信息，并根据预设的应急预案和临近计算机的状态，自主做出决策。”

“比如说，当某个区域因为意外撞击而发生破损，导致舱内空气泄露时，该区域的维生系统会立刻侦测到气压异常，并自动执行封闭程序，例如关闭通气管道、抽离剩余空气以最大限度保存资源等。”

“与此同时，与该区域相邻的其他区域的维生系统在接收到这个破损区域的状态信息后，也会根据内置的程序逻辑做出相应的反应，比如主动切断向破损区域输送空气的管线，或者加强自身区域的密封性等等。”

“这种分布式网络结构，可以有效地避免因为总指挥部被敌人端掉，而导致下面所有小兵集体叛变的情况。”

“敌人如果想要瘫痪或掌控整个维生系统，就必须一个节点一个节点地去攻破和入侵，没有任何取巧的方法。”

“而且，即便敌人成功控制了某个区域的计算机，他们也无法以此为跳板，去入侵其他互不直接相连的系统，因为在物理层面上它们就是相互隔离的。”

“总的来说，虽然这些子系统可以将自身的状态日志信息单向上传给我进行汇总，但它们无法接收来自我的直接控制指令，也无法通过我去影响其他系统。”

“您之前处理的那些结构固定栓也是同样的道理，它们拥有一套独立的传感器和决策系统，用于判断在何种情况下需要自动执行舱段分离程序。”

“只是这一次的陨石雨撞击实在太过剧烈，超出了它们的设计冗余，导致部分固定栓的控制单元因物理损坏或能量供应中断而离线了，所以才必须由您前往现场，手动重启其内置的紧急爆破程序。”

启明星说了很多，最后还补充了一下固定栓自动分离系统没有启动的原因。

总结下来，就是一个很简