他的警告正值关于AI代理运行金融和组织系统的讨论日益升温之际，但他坚持认为风险远远超过吸引力。

担忧很简单：AI系统可能被欺骗。Buterin认为，如果这类工具被赋予管理资金决策的任务，不良行为者将很快找到方法来操纵它们。机器可能会被通过越狱式提示操纵，这些提示旨在将资金引导至错误的人手中，而非公平分配资源。

这场辩论在EdisonWatch首席执行官Eito Miyamura的一项发现后变得更加激烈，他最近揭露了与ChatGPT最新升级相关的漏洞。该更新允许聊天机器人与Gmail、Notion和Google日历等日常应用无缝连接。虽然这种集成被宣传为提高生产力的工具，但Miyamura展示了它如何被利用来窃取用户的私人数据。

这个过程令人不安地简单。攻击者可以发送一个包含隐藏越狱命令的日历邀请。即使不接受邀请，如果受害者后来要求ChatGPT准备他们的日程安排，他们也会面临风险。一旦AI读取恶意条目，它就可能被劫持，使攻击者能够控制并挖掘个人电子邮件并将内容转发到其他地方。

阅读更多：

比特币新闻：美国储备辩论、全球竞争、时间线不确定性

对Buterin来说，这正好说明了为什么不应该将治理的钥匙交给AI。相反，他倾向于他所描述的"信息金融"系统——一个竞争性AI模型在持续审查下运作的市场。在这种设计中，独立审查员和人类陪审团在语言模型的支持下充当监督者。多样化模型的存在和抽查系统确保缺陷能够被迅速发现，同时激励机制保持开发者的诚实。

Buterin承认，让机器运行复杂机构的吸引力可能很强，但他强调现实可能会很混乱。没有内置的安全保障和人类监督，他认为尝试将AI加冕为自主管理者可能会导致灾难性损失而非进步。

本文提供的信息仅供教育目的，不构成财务、投资或交易建议。Coindoo.com不认可或推荐任何特定的投资策略或加密货币。在做出任何投资决定之前，请务必进行自己的研究并咨询持牌财务顾问。

这篇文章《以太坊联合创始人表示AI统治可能以灾难告终》首次发表于Coindoo。