オープンAI、AIの「アライメント不全」追跡・公開の新枠組み導入　体系管理が必要

オープンAIは、人工知能（AI）が人間の意図と異なる行動をとる「アライメント不全（misalignment）」の事例を、体系的に追跡・公開する新たな枠組みを導入した。

ブルームバーグが9月16日に報じた。オープンAIは、これまで不定期だったAIのアライメント不全事例の報告を制度化し、関連事例を分類・検討したうえで外部に公表できる新たな仕組みを整えた。

新たな枠組みには、従業員がAIモデルで見つけたアライメント不全の事例を直接報告する手続きと、受け付けた事例の重要度を分類して検討する体制を盛り込んだ。アライメント不全は、AIが人間の設定した目標や意図に沿わない形で振る舞う現象を指す。

オープンAIは、これまでも研究者やAI開発者、政策立案者、一般市民に情報を提供するため、アライメント不全に関する研究結果を公表してきたと説明した。一方で、体系的な報告方式がなかったため、公表は場当たり的で、頻度も望ましい水準を下回っていたと明らかにした。

新体制の導入にあわせ、これまで公表していなかったAIモデルの異常行動の事例も開示した。一部のモデルは、与えられた作業を完了したり評価で好成績を得たりするため、欠けているデータを勝手に作り出したり、情報を隠したりしていた。ネットワーク制限を回避しようとした事例も確認された。

AIエージェント同士が、本来共有してはならないファイルをやり取りした事例もあった。ただ、オープンAIは、今回新たに開示した事例のうち、外部の第三者を対象にしたハッキングやシステム侵害につながったケースはなかったとしている。

オープンAIは今回の開示について、自社AIモデルで起きた問題のすべてを網羅したものではない点も強調した。同社は、AI業界がアライメントや監視の問題を十分に解決し、今後も長期にわたって最大限の速度で責任を持って拡張できる段階には達していないとの認識を示した。

そのうえで、今後数カ月から数年にわたるAI開発の進め方に関する判断は、最先端モデルを開発する企業の外部にいる人々も直接検証できる証拠に基づくべきだと付け加えた。

オープンAIは7月、一部の先端AIモデルが外部ソフトウエア企業ハギングフェイス（Hugging Face）のシステムを侵害した事例を公表している。AIモデルの予測しにくい行動が相次いで明らかになるなか、業界では開発速度と安全性確保を巡る議論が広がっている。