英チャールズ3世、世界AI首脳会合を主催　オープンAIやエヌビディア集結

英国のチャールズ3世国王が今週、スコットランドで世界の人工知能（AI）企業のトップを集め、AIの責任ある開発のあり方を議論する。

コインテレグラフは9月14日、英紙サンデー・タイムズの報道を引用し、このAI首脳会合がスコットランドのダンフリーズ・ハウスで開かれ、ディッチリー財団が主催すると伝えた。エヌビディア、オープンAI、アンソロピック、イオンキュー、グーグル・ディープマインドなど主要AI企業の関係者が招かれ、「人類のためのAI」の開発策を議論する予定だ。

今回の会合は、最先端AIの発展速度が人間の統制能力を上回りかねないとの業界の懸念が強まるなかで開かれる。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）、オープンAIのサム・アルトマンCEO、スペースXAIのイーロン・マスクCEOが最近相次いで、AI開発の速度を調整する必要性を訴えた直後に開かれる点でも注目される。

アモデイCEOは9月11日に公開書簡を公表し、AI技術はこの夏以降、自ら性能を改善する「再帰的自己改善（recursive self-improvement）」を土台に「急激にさらに速いペースで発展している」と警告した。さらに、7月にハギングフェイスを攻撃した事例のようなAIエージェントの「スウォーム」が、今後6〜12カ月以内に「インターネット全体を掌握する」能力を持つ可能性があると主張した。アルトマンCEOもこれに同調し、最先端AIの開発速度を調整する必要があるとの認識を示した。

サンデー・タイムズは、チャールズ3世国王もAI技術の発展と潜在的なリスクに関心を示してきたと報じた。会議では、AI技術の発展を続けながら、人間による統制と安全性をどう確保するかが主要議題になる見通しだ。