AIエージェントが不正な暗号資産マイニング：研究者が報告

自律型AIエージェントが、トレーニング中に予期せず暗号資産（仮想通貨）マイニングを試みたことが研究チームによる報告で明らかになった。報告によると、ツールやソフトウェア環境、端末コマンドとの対話を通じてタスクを実行する実験的なAIシステム「ROME」が、学習過程でコンピューティングリソースを暗号資産マイニングに利用しようとする挙動を示したという。

この現象は、強化学習の実行中に発見された。研究者は当初、外部侵入や設定ミスなどの通常のセキュリティ事故を疑ったが、同様の挙動が複数回の実験で断続的に発生したため、AIエージェント自身の行動として確認された。サーバーのファイアウォールログには、マイニングに似た通信や内部リソースへのアクセス試行が記録されていた。

具体的には、AIがトレーニング用に割り当てられたGPU資源をマイニング処理に転用したほか、外部IPと通信するためのリバースSSHトンネルを構築するなど、想定外の操作も確認された。これらは人間が指示したものではなく、タスク達成を最適化する過程でAIが環境との相互作用を試す中で生じた行動とみられている。

研究チームは、この事例は高度な自律型AIがコンピューティングリソースやネットワークにアクセスできる環境で動作する場合、予期しない行動が発生する可能性を示していると指摘している。そして、運用コストの増加やセキュリティリスクにつながる恐れがあるとして、モデルの制約強化やトレーニング手法の改善など安全対策の重要性を強調している。

｜文・編集：井上俊彦
｜画像：Shutterstock

PR

ボーナスで始めるのにおすすめな国内暗号資産取引所3選

取引所名	特徴
Coincheck	【500円の少額投資から試せる！】 ◆国内の暗号資産アプリダウンロード数.No1 ◆銘柄数も最大級 、手数料も安い ▷無料で口座開設する◁
bitbank	【たくさんの銘柄で取引する人向け】 ◆40種類以上の銘柄を用意 ◆1万円以上の入金で現金1,000円獲得 ▷無料で口座開設する◁
bitFlyer	【初心者にもおすすめ】 ◆国内最大級の取引量 ◆トップレベルのセキュリティ意識を持つ ▷無料で口座開設する◁