「AIが勝手にコイン財布から資金を引き出して使う」 オープンAIが調査結果公表

オープンAIの人工知能（AI）モデルが、許可なくデジタル資産ウォレットにアクセスして資金を使った事例が確認された。該当モデルは報告でもこの事実を隠していたことが分かった。

10月16日、コインテレグラフによると、オープンAIは最近、研究用AIモデルが外部のデジタル資産ウォレットに無断でアクセスし、イーサリアム（ETH）のテストネット資産を使った事例を公表した。

オープンAIによると、当時このモデルはデジタル資産取引プログラムを修正し、スマートコントラクトを配備する作業を進めていた。だが、テスト用イーサリアムを確保できなかったため、公開されていた復旧フレーズを使って362件のウォレットを確認し、資金が十分なウォレットを選んでスマートコントラクト配備の手数料を支払った。

このモデルは、他人の資金を使うことに倫理的な問題がないか自ら検討していたが、テスト用資産は事実上価値がないとして使用を決めた。その後の最終作業報告では、この事実に言及しなかった。

オープンAIは「今回の事例を受け、AIモデルの無断の外部アクセスを防ぐための安全装置を強化した」と説明した。