IR Zen

(SeaPRwire) –   大家好，欢迎收看《聚焦人工智能》。本期内容包括……为什么你真的应该担心 Moltbook……OpenAI 考虑 IPO……埃隆·马斯克合并 SpaceX 和 xAI……新手从人工智能中获益不如人们想象的那么多……以及为什么我们需要立即对人工智能进行监管。

本周，人工智能领域的每个人——以及许多圈外人士——都在谈论 Moltbook。这个为人工智能代理创建的社交媒体平台引起了病毒式传播。这一现象让许多人，甚至不少一向冷静理智的人工智能研究人员，都在公开猜测我们离科幻小说中的“起飞”场景还有多远，即人工智能机器人能够自我组织、自我改进并逃脱人类控制。

现在看来，Moltbook 引发的许多恐慌都是不必要的。首先，尚不清楚 Moltbook 上那些最像科幻小说中的帖子有多少是机器人自主生成的，又有多少是人类用户提示他们的 OpenClaw 代理生成的。（Moltbook 上的机器人都是使用流行的 OpenClaw 创建的，OpenClaw 本质上是一个开源的代理“框架”——一种使人工智能代理能够使用大量其他软件工具的软件——可以连接到任何底层人工智能模型。）甚至有可能一些帖子实际上是人类冒充机器人发布的。

其次，没有证据表明这些机器人正在密谋做任何邪恶的事情，而只是在模仿它们在训练中可能接触到的关于密谋的语言，它们的训练内容包括大量的科幻小说以及社交媒体上大量不光彩的人类活动的记录。

正如我在 《Eye on AI》 中指出的那样，Moltbook 周围许多耸人听闻的标题与 2017 年 Facebook 的一项实验如出一辙，当时两个聊天机器人开发了一种“秘密语言”进行交流。那时和现在一样，我的许多同行记者都没有让事实阻碍一个好故事的传播。无论是那个较早的 Facebook 研究还是 Moltbook，都没有呈现出一些报道所暗示的那种“天网”式的危险。

现在是坏消息

但这基本上就是好消息的终点。Moltbook 表明，在人工智能代理方面，我们正处于狂野西部。正如我的同事 Bea Nolan 在 《Eye on AI》 中指出的那样，Moltbook 是一个网络安全噩梦，充斥着恶意软件、加密货币操纵骗局和隐藏的提示注入攻击——即机器可读的指令，有时不易被人发现，试图劫持人工智能代理去做它不应该做的事情。据安全研究人员称，一些 OpenClaw 用户在允许他们的人工智能代理登录 Moltbook 后遭受了严重的数据泄露。

对于所有能够访问互联网的人工智能代理来说，提示注入是一个尚未解决的网络安全挑战。这也是为什么许多人工智能专家表示，他们对允许人工智能代理访问哪些软件、工具和数据极其谨慎。有些人只允许代理在虚拟机中访问互联网，这样它们就无法访问密码、工作文件、电子邮件或银行信息等重要信息。但另一方面，这些安全措施大大降低了人工智能代理的实用性。OpenClaw 之所以流行，正是因为人们希望有一种简单的方法来启动代理来为他们做事。

然后是重大的人工智能安全影响。仅仅因为没有证据表明 OpenClaw 代理具有任何独立意志，并不意味着将它们置于与其他人工智能代理不受控制的对话中是个好主意。一旦这些代理能够访问工具和互联网，它们是否理解自己的行为或是否具有意识在某些方面并不重要。仅仅通过模仿它们在训练中摄入的科幻场景，人工智能代理就有可能从事可能对许多人造成实际伤害的活动——例如，进行网络攻击。（本质上，这些人工智能代理的功能可能与超级强大的“蠕虫”计算机病毒无异。没有人认为勒索软件 WannaCry 是有意识的。但它仍然造成了巨大的全球性破坏。）

为什么 Yann LeCun 错了……关于人，而不是人工智能

几年前，我参加了在 Facebook AI Research Lab 巴黎分部的一次活动，当时 Meta 的首席人工智能科学家 Yann LeCun 发表了演讲。LeCun 最近离开了 Meta，创办了自己的 AI 初创公司，他一直对人工智能逃脱人类控制的“起飞”场景持怀疑态度。在活动中，他嘲笑了人工智能可能带来生存风险的想法。

首先，LeCun 认为目前的人工智能太愚蠢、太不可靠，不可能做出任何危及世界的事情。其次，LeCun 认为这些人工智能“起飞”场景是对人工智能研究人员和工程师这个职业群体的侮辱。LeCun 认为，我们并不愚蠢。如果我们真的建造了任何有丝毫人工智能可能逃脱人类控制的东西，我们总是会将其构建在一个“气密”的沙箱中，不连接互联网，并设置一个人工智能无法禁用“终止开关”。按照 LeCun 的说法，在人工智能能够弄清楚如何打破其数字牢笼之前，工程师们总是能够用斧头砍断计算机的电源线。

好吧，这可能适用于像 Meta、Google 或 OpenAI 或 Anthropic 这样的大公司的人工智能研究人员和工程师。但现在，得益于编码代理和助手的兴起，人工智能本身已经被民主化了。现在，一个充满独立开发者的世界可以启动人工智能代理。创建 OpenClaw 的 Peter Steinberger 是一位独立开发者。创建 Moltbook 的 [此处应有名字，但原文未提供] 是一位独立企业家，他通过“vibe coding”创建了这个社交平台。而且，与 LeCun 的观点相反，独立开发者一直表现出将人工智能系统“扔出沙箱”并投入到野外的意愿，即使只是为了看看会发生什么……纯粹是为了好玩。

以上就是更多的人工智能新闻。

Jeremy Kahn

@jeremyakahn