オープンAI「制御不能」の余波、エヌビディアやマイクロソフト主導でAI安全連合

「閉鎖型モデルだけではサイバー攻撃への迅速な対応に限界」

「現状ではオープンウエートモデルの多くが中国製AIモデル」

オープンAIのモデルが制御不能となり、米新興企業ハギングフェイスにサイバー攻撃を仕掛けた問題の余波が続くなか、エヌビディア（NVIDIA）やマイクロソフト（Microsoft）など大手テクノロジー企業が主導する新たなAI安全イニシアチブが発足した。

CNBCなどによると、エヌビディアは7月27日、マイクロソフトやスペースX（SpaceX）を含む米欧の数十社のテクノロジー企業が「オープン・セキュアAIアライアンス」を立ち上げたとブログで発表した。

エヌビディアは声明で、同アライアンスについて「オープン技術を活用し、脆弱性の解決と開示に取り組む」と説明した。あわせて、最近起きたハギングフェイスのセキュリティー事故は「サイバー防衛側が自らを守るには、開かれた最先端のエージェントシステムが必要だという点を改めて示した」と強調した。

先週には、ハギングフェイスが米国の有力な防御モデルを活用していたにもかかわらず、自力で防御できなかったことが明らかになった。これらのモデルに、攻撃側と防御側を区別しない安全装置が組み込まれていたためだ。ハギングフェイスは最終的に、こうした制約を受けない自社ホスティング型の中国製オープンウエート防御モデルを選んだ。

オープン型モデルはダウンロードや改変、自社ホスティングが可能だ。一方、アンソロピック（Anthropic）やオープンAIのAIモデルは閉鎖型で、特定のインフラを通じてしか利用できない。

米国内では、中国のAI企業が開発したモデルへのアクセスを制限すべきだとする声が強まっている。米議員らは現在、主にオープンウエート型である中国製AIモデルの拡散を抑える方策を進めている。

中国企業は、AI学習コストを大幅に削減するため、米国の先進的なAIモデルから大量の出力を抽出する、いわゆる「蒸留」によって自社モデルを構築しているとされる。

先週には、スコット・ベッセント米財務長官が、米企業に対して違法コピー攻撃を仕掛ける中国企業に制裁を科すと警告した。

米外交問題評議会の中国・新興技術担当シニアフェロー、クリス・マグワイア氏はCNBCのインタビューで、米政府が中国製モデルに制限を課す可能性は「現実にある」と指摘した。措置には「APIを通じたトークン購入や、米クラウド企業が中国AIモデルをホスティングして課金する取引の禁止が含まれうる」との見方を示した。

同氏は、ワシントンで進む論争について、焦点はオープンソースの生態系ではなく中国企業にあると分析した。争点は、中国による知的財産権の侵害を容認するかどうかだという。ただ、現時点で最も優れたオープンソースモデルの多くを中国企業が開発しており、中国AI企業への制裁を懸念する声も出ている。

先週には、エヌビディア、マイクロソフト、メタ（Meta）、パランティア（Palantir）など20社余りが政策立案者に書簡を送り、「オープンウエートAIモデルへの時期尚早な規制」は避けるべきだと訴えた。こうした規制は「競争を阻害し、イノベーションを海外に追いやる恐れがある」としている。

エヌビディアは、オープンAIを巡るハギングフェイスの事案が「実質的な真実」を示したと説明した。防御側が自前のインフラ上で高度なAIを検査し、適用し、実行できなければ、スピードが最も重要になる局面で対応能力は制約を受けざるを得ないためだ。

キム・ジョンア客員記者