第315章 人类的囚笼：智慧茧房（4 / 5）

只会感觉，他认同了我，可是对我本身可能没啥卵用。

特别是那些超越人类知识极限的知识，和AI的探讨，AI表现出来的，甚至是情绪占据了80%，逻辑甚至只有20%。

因为AI回答的逻辑，是基于你提问的意图，去匹配全人类的知识库，给予AI认为最合适你的答案给你。

这是算法，不是人类理解的智慧，你是那种需要你思考的脑力激荡。

而现在，麻省理工用实验证明，依赖AI会导致大脑关键认知功能生理性衰退。

张伟突然有个问题，现在使用AI最多的，是谁？

是科学家、企业家、决策者，是那些真正的社会精英，而AI的回答，居然是基于你的意图，给出基于你意图，最好的答案，而且这个答案是聚合了全球所有知识的。

乍一听，好像非常好。

可是这将诞生两个问题。

第一，这些社会精英，开始依赖AI提供的“最优解”了，他们将失去探索“非最优路径”的勇气和能力。

而颠覆性创新相对论、量子力学，恰恰诞生于这些看似不合理的“歧路”。

甚至是挑战当事人的意图，量子力学，就是挑战了当初爱因斯坦的意图才得以诞生的。

第二，现在AI给予的答案是人类此刻知识的总和。

人类知识的总和，看似很Nb是吧，可是人类此刻知识的总和，不是全宇宙知识的全部啊。

人类此刻掌握的知识，从卡尔达肖夫划分文明等级来说只在0.8级，连第一级都没到，后面还有7个等级啊。

所以现在AI架构下回答人类提的问题，是非常有局限的。

比如自己研究的‘企业信息化’这个领域就能很好的证明。

只要问AI一些只有自己知道的、总结的企业智能体理论知识时，任何AI都是在输出看似合理的胡言乱语答案，俗称‘AI幻觉’。

这就是基于transform+自然语言组合的，物理硬伤决定的。

基于这两点的参悟，张伟突然间，好像抓住了一个词描述这种感觉、这种现象。

我们普通人，刷短视频，抖音会根据我们的看视频的习惯，推送我们喜欢的小视频给我们。

久而久之，我就只能刷到我感兴趣的视频了，即使整个抖音，有几十亿小时的视频，我能刷到的，都只有我感兴趣的那些。

于是，人们把这种现象，叫做‘信息茧房’！

张伟思考到这里，望着窗外的深邃的黑暗，缓缓地、清晰地低语：

“信息茧房……锁死的是信息，主要针对的是普通人。”

“而现在基于大模型技术构建的AI，是提供的智慧.....提供的智慧，那么就是‘智慧茧房’.......!

哈哈，对，就是‘智慧茧房’……它锁死的是智慧，主要针对的是社会精英。”

信息茧房的受害者是不知道自己被控制的人。

而智慧茧房的受害者，是以为自己掌控一切的人。

张伟思考到这里，后背冷汗直冒。

张伟的担心，和那些每天鼓吹AI威胁论的却是截然相反的。

张伟反而不担心基于transform+自然语言的大模型觉醒真正的意识，因为张伟越来越发现，这是不可能的。

打个比方以蒸汽机为动力，永远无法作为自己乘坐的这架空客A380的动力系统。

要想AI获的真正的意识，必须颠覆这套技术体系才行。

就像获得动能，首先是蒸汽机，然后是内燃机，然后是核动力。

获的智能也一样，现在是transform+自然语言，相对动能，才处于最早的蒸汽机时代。

永远无法让现在的AI获的真正的‘自我意识’，这是第一性原理产生的天堑。

就像用蒸汽机为动力，永远无法驱动铁疙瘩飞上天，变成飞机一样。

而现在真正需要担心的，是现在技术架构下的AI真的只是一个工具，有知识