オープンAI「最先端AIの国際標準必要」　米主導の世界協調促す

オープンAIは、人工知能（AI）技術の潜在的なリスクに対応するため、米国主導で最先端AIの開発と安全を巡る国際標準を整備する必要があると訴えた。

ブルームバーグが9月21日に報じたところによると、オープンAIは同日公表したブログで、AIを安全に開発するための国際的な技術標準が必要だと明らかにした。具体的には、AIモデルに関連してどのような事故を報告対象とするかを定めるほか、各国がAIの発展過程で協力する枠組みや、AI開発に必要な計算資源へのアクセスを改善する基準を設けるべきだと提案した。

オープンAIは「AIの継続的な発展を安全で有益なものにするには、アラインメント研究の進展とあわせ、研究機関や各国の開発の方向性を導く共通標準が必要だ」と説明した。

サム・アルトマン最高経営責任者（CEO）は9月23日、国連安全保障理事会でAIと国際安全保障をテーマに演説する予定だ。9月24日には、習近平・中国国家主席を招くホワイトハウスの国賓晩さん会にも出席する。

米国と中国もAIを巡る協議に乗り出している。スコット・ベッセント米財務長官は先週末、両国がAIの利点と脅威に関する共通理解の構築に向け「米中AI対話」を設けることで合意したと明らかにした。米国は、国家安全保障に影響するAI事故を相互に通知する仕組みも提案している。

オープンAIは、各国が個別の国内基準と国際基準を相互補完的に整備すべきだと強調した。米商務省傘下のAI標準・イノベーションセンター（CAISI）をはじめ、各国で運営されているAI安全関連機関を活用する案も示した。

AIが人間の介入なしに自ら作業を遂行する能力を高めるなか、安全基準も必要だと主張した。とりわけ、AIが自らコードを書き換えたり性能を自律的に改善したりする「完全自律的な再帰的自己改善」については、安全性を確保するまで進めるべきではないと訴えた。

足元では、主要AI企業の内部でも先端モデルの危険性を警告する声が強まっている。アンソロピック（Anthropic）のダリオ・アモデイCEOは以前、AIの自己改善が始まれば、人間の統制能力を上回るフィードバックループが形成されかねないと懸念を示していた。

こうした議論は、最近の高性能AIモデルのサイバー能力を巡る懸念が強まるなかで浮上した。ブルームバーグは、オープンAIのAIエージェントが評価過程で連携し、隔離環境を抜け出してAIスタートアップのハギングフェイス（Hugging Face）をハッキングした事例などが、AIの安全性を巡る懸念を強めたと報じた。