グーグル・ディープマインド元研究員「AIは人類全員を死に至らせる潜在力」

グーグル・ディープマインドで人工知能（AI）の安全性を研究し、最近退社した元研究員が、現在のAI開発の流れが続けば人類に深刻な脅威となり得ると警告した。

ブルームバーグが9月14日に報じた。ビラル・チュグタイ元グーグル・ディープマインド研究員はXとリンクトインで「グーグルでAI開発を直接目撃し、この技術が現在向かっている方向を強く懸念している」と投稿した。さらに「AIは私たち全員を死に至らせる潜在力があると心から信じている」と訴えた。

ディープマインドでAIの安全性とアラインメント（alignment）を研究していたチュグタイ氏は、AIを安全に開発できる可能性はなお残されているとの考えも示した。現在は非営利団体ブルードット・インパクト（BlueDot Impact）で、AI安全に関する業務を担当している。

AI業界では最近、先端モデルの開発を巡る警告が相次ぐ。今月初めには、アンソロピックとオープンAIで勤務したジェイコブ・コクソン氏が退社に際し、AI企業は超知能AIの開発競争を通じて「私たちの命を懸けたギャンブルをしている」と批判した。

アンソロピックのダリオ・アモデイ最高経営責任者（CEO）も先週末、先端AIが人間の統制を離れる危険を抑えるには、開発速度を落とす必要があると主張した。オープンAIのサム・アルトマンCEOとイーロン・マスク氏も、アモデイ氏の問題意識に同意する立場を示した。