オープンAI次世代「アストラ」、AI推論の監視が難しくなる恐れ

オープンAI（OpenAI）が開発中の次世代人工知能（AI）モデル「アストラ（Astra）」を巡り、演算コストを抑える半面、今後のAIエージェントの推論過程を人が監視しにくくなる恐れが浮上している。

9月3日にコインテレグラフが報じた。AI安全の専門家らは、アストラに導入される技術的な変化によってAIモデルの演算コストは下がる一方、モデルが結論に至るまでの過程を人が把握し、監視する能力が弱まる可能性があると警告した。

とりわけ、今後AIエージェントが複雑な作業を自律的にこなす場面で推論過程の確認が難しくなれば、安全性の評価や行動の監視にも影響しかねないという。

もっとも、アストラは正式公開前のモデルだ。具体的な性能やコスト削減効果、推論過程をどこまで監視できるかは、正式公開後に見極める必要がある。