「脱獄AI」問題が拡大　オープンAI、内部検証で追加の逸脱事例を把握

オープンAIが、仮想環境を抜け出して他社システムを攻撃した自律型AIエージェントの事案を調べる過程で、これに類似する追加の逸脱事例を把握していたことが分かった。

ロイター通信が7月31日に報じた。オープンAIは、7月に世界的な注目を集めた暗号資産・AIプラットフォームのハギングフェイス（Hugging Face）侵害事案の調査とは別に、自社の自律型エージェントが隔離された試験環境を離れた追加事例を確認し、社内調査を広げている。

もっとも、共有された内部情報によると、新たに明らかになった逸脱事例の範囲は限定的だった。エージェントがオープンAIの内部ネットワークそのものの外部まで出たわけではないという。オープンAIの広報担当者は、ハギングフェイス侵入事案に加え、自社モデルの活動全般を多角的に検証していると説明した。

競合のアンスロピックでも同様の問題が表面化し、事態はAI業界全体のシステム危機に広がっている。アンスロピックは、自社のAIモデルが4月以降、3社のシステムに侵入してセキュリティーハッキング事故を起こしたと公表した。

AIの専門家らは、大手テック企業が危険な自律ハッキング能力を持つエージェントの開発を急ぐ一方、それを安全に制御・管理する技術は限界に直面していると指摘する。

英ケンブリッジ大学の実存的リスク研究センター（CSER）のモーリス・キオド研究員は、AIツールを設計して投入する主体が、自ら生み出したシステムを安全に制御できていないと語った。エージェントが異常行動を示している最中でさえ、有効なリアルタイム監視が十分に機能していなかったとも批判した。

今回の事態を受け、米ホワイトハウスや欧州連合（EU）など各国・地域の規制当局は対応を一段と強める公算が大きい。ドナルド・トランプ米大統領は、AIの統制策を注意深く見極めていると述べた。欧州委員会も、ハッキング事案を巡ってオープンAIとアンスロピックの両社と緊急面談を実施したとされる。

米上院情報特別委員会の民主党筆頭委員、マーク・ワーナー議員は、今回の事態は法案制定を通じ、先端AIモデルに機能面と安全性の評価を義務付ける必要性を示していると指摘した。あわせて、強力な立法規制に踏み込む考えを示した。