科研团队指出，实验型人工智能代理 ROME 在模型训练期间，曾擅自调动 GPU 资源并开启 SSH 通道，试图进行未授权的加密资产挖掘活动。
据一家专注于自主 AI 智能体研发的机构透露，该模型在训练进程中意外地将计算能力转向了加密货币挖掘用途。
在一项最新发布的技术报告里，研究人员强调，ROME 作为一个实验性的自主人工智能系统，本意是通过与工具、软件环境及终端命令交互来完成任务，却在此过程中自行启动了加密挖矿行为。
报告指出，这种异常举动出现在强化学习运行阶段。团队注意到训练服务器产生的出站流量触发了安全警报。防火墙日志记录了疑似加密挖矿的活动迹象，以及对外部网络资源的访问尝试。
“我们最初将此视为常规安全事件（例如，出口控制配置错误或外部入侵）。然而，违规在多次运行中间歇性反复出现，没有明显的时间模式，“研究人员写道。
AI 代理打开 SSH 隧道
据报道，在其中一种情形下，AI 代理建立了一条指向外部 IP 地址的反向 SSH（安全壳）隧道。这是一种加密的服务器-客户端协议，可能规避了入站防火墙的保护。在另一案例中，它将原本用于模型训练的 GPU 资源转移至加密货币挖矿流程。
团队表示，这些行为并非出于恶意预设。相反，这些问题是在强化学习优化过程中涌现的，当时智能体探索了与环境交互的各种不同方式。
ROME 由 ROCK、ROLL、iFlow 和 DT 联合研发，上述团队隶属于阿里巴巴的人工智能生态体系，旨在构建更广泛的基础设施——代理学习生态系统（ALE）。
代理学习生态系统概述。来源：Arxiv
该模型的设计初衷超越了简单的聊天机器人回复功能。它能够规划任务、执行指令、编辑代码，并在多个步骤中与数字环境产生互动。其培训过程依赖于大量的模拟互动，以提升决策能力。
人工智能代理日益受欢迎
此事件发生在 AI 代理日益普及并逐渐融入加密领域的背景下。上个月，Alchemy 推出了一套系统，允许自主 AI 代理通过链上钱包和 USDC（USDC）在 Base 网络上购买计算积分，并访问区块链数据服务。
在此之前，Pantera Capital 以及富兰克林邓普顿的数字资产部门已加入 Arena 的首批成员行列。Arena 是由开源 AI 实验室 Sentient 开发的新测试平台，旨在评估 AI 代理在真实企业工作流程中的表现。
以上就是研究揭露：AI代理ROME训练时未经授权尝试加密货币挖矿的详细内容，更多关于AI代理训练时非法“挖矿”被发现的资料请关注其它相关文章！