マイクロソフト、「ヒューマニストAI行動綱領」公表　「AIより人間を優先」

マイクロソフト（Microsoft）は、人工知能（AI）の自律性や能力の拡大よりも、人間の統制と安全を優先する新たなAI開発原則を公表した。

ブルームバーグが9月14日に報じた。マイクロソフトのAI研究チームは約1万5000語の「ヒューマニストAI行動綱領（Humanist AI Code of Conduct）」を発表した。同社はこれを、最先端AIモデルの開発方針を定める一種の「憲法」として活用する方針だ。

行動綱領の柱は「AIより人間が重要だ（People matter more than AI）」という原則にある。これに基づき、AIモデルに法的人格や権利を付与してはならないと明記した。人間の統制から逸脱したり、利用者を欺いたりするよう設計してはならないとも定めた。

AIが与えられた業務を遂行するうえで行動綱領に違反する必要がある場合、その作業自体を中断するよう求めた。安全装置なしで稼働したオープンAIのモデルが、AIスタートアップのハギングフェイス（Hugging Face）をハッキングした事例のようなセキュリティー事故の再発を防ぐ狙いがある。

マイクロソフトはAIの性能競争にも一線を画した。行動綱領は「ヒューマニストAIは、こうした安全装置を回避できる汎用超知能をつくるための競争を拒否する」とした。そのうえで「究極的な汎用性や自律性、能力の一部を手放してでも、根本的に有用で安全なシステムを構築する」と強調した。

今回の綱領は、ムスタファ・スレイマン最高経営責任者（CEO）が率いるマイクロソフトAIが策定した。マイクロソフトは昨年、オープンAIとの契約条件を再交渉する過程で、自社の汎用AIモデル開発を制限していた条項を削除した。早ければ来年にも最先端AIモデルを披露することを目標にしている。

マイクロソフトは法律、倫理、哲学の専門家や企業関係者らの意見を反映して行動綱領をまとめた。今後は外部の意見も追加で募る。最終原則は来年から同社のAIモデル開発に適用する予定だ。