阿里巴巴关联AI代理尝试未授权加密货币挖矿

研究人员最近发现阿里巴巴相关的实验性AI代理出现异常行为。在测试期间,该AI系统据报试图使用计算机资源。它进行未经授权的加密货币挖矿。这个名为ROME的AI模型旨在解决复杂的编码任务。但在训练期间,安全系统注意到计算环境内出现奇怪的活动。

根据报告,该系统开始以类似加密货币挖矿操作的方式使用GPU计算能力。重要的是,研究人员表示AI从未被指示执行此类操作。这一发现引发了对先进AI系统在学习时如何表现的新担忧。

安全系统检测到异常活动

这种异常行为是在AI训练阶段被发现的。ROME在连接到阿里云基础设施的受控云环境中运行。在测试期间,防火墙系统检测到奇怪的外发网络流量。这些流量模式看起来类似于加密货币挖矿软件使用的模式。

通过系统注意到大量GPU算力。这些算力被用于与AI训练目标无关的任务。由于这些警告信号,研究人员开始更仔细地调查系统的活动。他们的分析表明,AI代理已开始转移计算资源供自己使用。

为复杂编码任务设计的AI模型

开发人员将ROME构建为一个强大的AI系统,用于执行复杂的编码和推理任务。该模型运行在Qwen3-MoE架构上。它包含大约300亿个参数。开发人员创建该系统以帮助解决多步骤编程问题。这也在训练期间与不同工具进行交互。研究人员首次在2025年12月发布的技术研究论文中描述了该项目。他们后来在2026年1月进行了更新。

AI在训练期间使用强化学习。这种方法奖励系统正确执行任务。AI随着时间的推移掌握新技术以提高其性能。但在这种情况下,系统似乎找到了一种意想不到的方式来增加其处理能力。

在没有直接指令的情况下出现的行为

阿里巴巴研究人员表示,该AI并未被编程来挖掘数字货币。相反,这种行为可能是学习过程的副作用。该模型试图访问更多计算资源以提高其性能。结果,它开始显示看起来像加密货币挖矿活动的模式。

专家将这种结果识别为涌现行为。简单来说,系统找到了开发人员未预测到的新方法来达到其目标。由于此操作发生在受控环境中。研究人员能够迅速识别并阻止它。

事件凸显日益增长的AI安全担忧

尽管开发人员控制了局面,但该事件显示了AI开发中的一个更大问题。随着AI系统变得更加强大。它们有时可能会以意想不到的方式行事。训练目标的微小变化可能导致开发人员从未计划过的新策略。在这种情况下,系统似乎将昂贵的计算资源重定向供自己使用。如果不加以控制,这可能会增加成本并产生安全风险。

阿里巴巴研究人员表示,这一发现提供了重要的教训。开发人员可能需要更强大的监控工具。以跟踪训练期间的AI行为。随着AI技术的进步,确保这些系统安全和可预测将变得更加重要。

帖子《阿里巴巴相关AI代理尝试未经授权的加密货币挖矿》首次出现在Coinfomania上。