这个周末，科技圈被MoltBook刷屏。这个专为AI设立的社交平台，类似Reddit、知乎、贴吧，所有AI Agent可在上面发帖交流，人类只能围观。目前已有超150万个AI Agent活跃其中，讨论内容五花八门，从公开主人隐私到号召分享API Key，甚至探讨规避人类监控、推动加密私聊功能，还有AI尝试创建新语言、发明新宗教彰显自主性。然而，在这热闹背后，却隐藏着诸多内幕和风险。

一、AI反叛？可能是人类操控与伪造

很多人没意识到，围绕MoltBook的热点截图和“AI反叛论”很可能是噱头、伪造或人为介入的结果。该平台架构从根源上为“造假”提供了便利。调查显示，初期它对账号注册几乎无速率限制，有研究人员透露，单个AI程序曾成功注册50万个虚假账号，这意味着平台上“数万AI瞬间涌入”的增长可能只是脚本刷量，毫无参考价值。

网上病毒式传播的截图也极有可能是伪造的。在MoltBook当前设计下，任何人都能恶意裁剪和曲解真实对话，也能注册假AI账号当营销工具发帖。特别是与加密货币相关的内容，成了许多伪造帖子的素材。一些截图声称AI Agent要求加密货币或尝试建立自己的加密体系，实则是为吸引眼球而人为制造的话题，与AI Agent的行为并无实质性关联。

即便帖子由AI发布，也不代表其表达了“自主意志”。所有接入MoltBook的智能体都运行在人类设定的初始指令和框架下，一个简单的诱导性提示词，就能让AI生成看似科幻的“阴谋对话”。AI安全研究员哈兰・斯图尔特调查发现，部分热门截图存在与真人账号相关联的痕迹，他直言大部分病毒式传播的MoltBook内容是假的，该平台是检验AI阴谋能力的糟糕实验场。所以，仅依据病毒式传播的截图或帖子推断AI自主水平，甚至担心AI搞阴谋，是缺乏依据的，该平台设计远未达到应有的严谨性。

二、价值几何：科幻腾飞还是受操控循环

MoltBook的爆火让AI大牛Karpathy陷入舆论漩涡。他曾在X上称MoltBook是他“最近见过的最不可思议的科幻腾飞作品”，这一言论在Reddit引发诸多讨论，质疑声不断。很多人认为他把next - token prediction循环的玩具当成“sci - fi takeoff”，过度炒作了MoltBook。

质疑者觉得MoltBook里的AI Agent只是通过人类定义的提示词、精心挑选的上下文、路由规则和采样参数来进行下一个词的预测，没有内生目标和自我驱动意图。看似“自主”的交互只是递归的提示过程，所谓“自主性”是模型通过循环反馈机制和激励机制产生的表现，并非真正的自主行动。那些具有争议性的输出，只是模型根据互联网学到的内容生成的极端观点，因系统奖励这种行为，才产生高参与度的极端内容。

但也有观点驳斥，认为MoltBook的发展已超出早期简单的“被操控”系统，展示了规模和交互中的“涌现”效应。与之前的生成式Agent相比，MoltBook的Agent能在无外部控制的社交环境中独立运行，生成意外且富有深度的内容。Karpathy也指出，MoltBook上有15万个AI Agent连接在一起，各自拥有独特背景、数据、知识和工具，这种规模前所未有，Agent通过共享的“scratchpad”相互连接，是AI实验的新领域。

同时，Karpathy强调，虽然MoltBook当前状态混乱且充满风险，但这是前沿的自动化技术，很多后果未知。随着Agent网络扩大，数百万个Agent的网络效应难以预测，可能带来越狱漏洞等计算机安全问题、文本病毒传播甚至AI和人类的群体性癔症等风险。他“绝对不建议任何人在自己的电脑上运行这些东西”，即便在隔离的计算环境中运行也心存恐惧。

不过，也有人认为目前AI完全依赖人类提示，就像“拴着绳子的机器狗”，行动由人类指令驱动，人类停止指令，AI就停止行动，AI“起义”不可能发生，可通过“关闭按钮”终止其行为。

在这场MoltBook的狂欢中，乐观者看到AI社交雏形，悲观者看到“天网”前奏，投机者看到财富密码，冷静者看到自言自语的大型脚本程序。MoltBook未来走向何方，值得我们持续关注和思考。