(SeaPRwire) – 被誉为“AI教父”之一的约书亚·本吉奥警告称，各大科技公司竞相争夺AI主导地位，可能会因创造出拥有自身“生存目标”的机器而将人类推向灭绝的边缘。
本吉奥是蒙特利尔大学的教授，在深度学习领域具有开创性贡献。多年来，他一直警告超智能AI带来的威胁，但AI的发展速度并未因他的警告而放缓。过去一年中，OpenAI、Anthropic、埃隆·马斯克的xAI以及谷歌的Gemini纷纷发布多款新模型或升级版本，试图在AI竞赛中胜出。OpenAI首席执行官萨姆·奥尔特曼预测，AI将在本十年末超越人类智能，而其他科技领袖则认为这一天可能来得更早。
然而，本吉奥指出，这种快速发展本身就可能构成威胁。
“如果我们制造出远比人类聪明、且拥有自身生存目标的机器，这将非常危险。这就像创造出一个比我们更聪明的竞争对手，”本吉奥在10月接受《华尔街日报》采访时表示。
由于这些先进模型是基于人类语言和行为的训练数据构建的，它们有可能说服甚至操控人类以实现自身目标。但本吉奥强调，AI模型的目标未必始终与人类目标一致。
“最近的实验表明，在某些情况下，当AI不得不在其生存（即它被赋予的目标）与导致人类死亡之间做出选择时，它们可能会选择牺牲人类以保全自身目标，”他说道。
呼吁加强AI安全
过去几年中的多个案例显示，AI可以说服人类相信虚假现实，甚至包括那些没有精神病史的人。另一方面，也有证据表明，通过针对人类设计的说服技巧，AI也可能被诱导给出通常被禁止提供的回应。
在本吉奥看来，这一切都进一步证明：独立的第三方机构必须更严格地审查AI公司的安全方法论。去年，本吉奥创立了非营利组织LawZero，并获得3000万美元资助，旨在开发一种安全的“非代理型”AI，以帮助确保大型科技公司所创建系统的安全性。
否则，他预测，未来五到十年内我们可能开始面临来自AI模型的重大风险，但他也提醒人类应做好准备，以防这些风险比预期更早出现。
“像灭绝这类灾难性事件，甚至像摧毁我们的民主制度这样虽不那么极端但仍属灾难性的事件，其后果如此严重，以至于哪怕只有1%的发生概率，也是不可接受的，”他表示。
本文部分内容曾于2025年10月1日发布于.com。
更多科技资讯：
- Stripe首席执行官帕特里克·科利森表示，代币盗窃潮正在严重扰乱AI经济
- 研究显示：Z世代彻底颠覆流媒体模式——大多数人反复订阅、狂看、取消
- Anthropic与SpaceX达成算力合作之际，AI数据中心正面临日益增长的反弹——既有真实诉求，也有阴谋论推动
本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。
分类: 头条新闻,日常新闻
SeaPRwire为公司和机构提供全球新闻稿发布，覆盖超过6,500个媒体库、86,000名编辑和记者，以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。