ハギングフェイス、悪性AIエージェント防御に中国のオープンウエートモデル活用　安全性に懸念

人工知能（AI）プラットフォームのハギングフェイス（Hugging Face）が、悪性AIエージェントの検知・防御に中国のオープンウエートAIモデルを活用していることが分かった。ただ、モデル自体の安全対策が手薄で、新たなリスクを招く可能性も指摘されている。

8月25日、暗号資産専門メディアのコインテレグラフによると、ハギングフェイスは制御不能に陥ったり悪意を持って動作したりするAIエージェントに対応するシステムで、中国で開発されたオープンウエートモデルを活用している。

オープンウエートモデルは、AIモデルの学習済み重みを外部に公開し、開発者が直接ダウンロードして改変したり、自前の環境で運用したりできるようにしたモデルを指す。高いアクセス性と活用のしやすさが利点とされる。

一方、一部の中国のオープンウエートモデルは、悪用を制限する安全対策が相対的に不十分とされる。このため、悪性AIエージェントの防御に使うモデルが、逆にサイバー攻撃など別の目的に悪用される恐れがある。