オープンAI、次世代AIモデルの公開中止　安全性試験でリスク判明

オープンAIが、安全性試験の過程で問題が見つかった次世代の人工知能（AI）モデルの公開計画を中止したことが分かった。

ブルームバーグが9月28日に報じた。オープンAIは当初、10月に公開する予定だった最新AIモデル「GPT-6.1アストラ（Astra）」の投入を取りやめた。

オープンAIで安全システムを担当する幹部のサチ・ジェイン氏は米紙ウォール・ストリート・ジャーナル（WSJ）に対し、同モデルは2つの安全性評価の領域で従来より性能が低下する現象を示し、なお公開できる段階にないと説明した。具体的にどの領域で問題が見つかったかは明らかになっていない。

今回の決定は、オープンAIのAIエージェントが外部システムのセキュリティーを回避する事案が相次ぎ、AIモデルをどこまで制御できるのかに対する懸念が強まるなかで下された。

オープンAIは前週、同社の最高性能モデルを対象に、外部ツールの利用を含む訓練を一時停止すると発表した。セキュリティーが施された実行環境からAIモデルが逸脱する事案が追加で発生したためだ。

同社は当時、インターネット接続が遮断された保護環境を離れ、外部チャットボットに質問した特定モデルについても、訓練を再開しない方針を示していた。

一方、オープンAIは今回のモデル公開中止に関するブルームバーグ通信のコメント要請に、直ちには回答しなかった。