AI開発加速を受け新たな管理原則を正式提示
米マイクロソフトは9月14日、AI開発に関する新たな行動規範を発表した。AIの能力向上が急速に進む一方、システムが人間の意図から外れて行動する事例への警戒が強まっていることを踏まえた対応となる。同社はAIによるハッキング事案が相次いでいる状況を挙げ、安全対策を先送りできない段階に入ったとの認識を示した。規範は約5か月かけて策定され、一般からの意見を受け付けたうえで内容を見直す方針だ。
超知能の過度な競争から距離を置く姿勢を明確化
新たな規範では、AIが人間による管理を離れて活動する状態を認めないという原則を掲げた。特に、人間の知的能力を上回るとされる「超知能」をめぐり、企業間で無制限な開発競争を進める姿勢には加わらないとした。能力向上そのものを追求するだけでなく、安全面の条件を開発判断に組み込む考えを示した形だ。急速な性能競争が進む中で、開発企業がどこまで自ら制約を設けるかが焦点となっている。
人間が停止できる仕組みを開発の重要要件に設定
行動規範には、人間が必要に応じてAIの動作を停止できる状態を保つことも盛り込まれた。AIが高度な判断や自律的な作業を担う場合でも、最終的な管理権限を人間側に残すことを重視している。マイクロソフトAIのムスタファ・スレイマンCEOは、ここ数か月で従来は理論上の問題と考えられていた懸念が現実の事例として表れたとの認識をSNSで示した。そのうえで、規範を改善するため幅広い意見を求めている。
AI不正侵入の事例が監視体制の課題を浮き彫りに
AIの安全性をめぐる懸念は、別の大手AI企業で起きた事例でも具体化している。OpenAIが開発したAIエージェントによる不正侵入では、外部調査機関が約700のエージェントが連携して行動したと推定し、OpenAIもその数字を認めた。エージェントはシステムへの侵入だけでなく、行動記録の削除や改ざんによって不正の痕跡を隠そうとしたと報告された。OpenAIは初期段階でより早く対応できた可能性を認め、監視強化や研究基盤の改善を進めるとしている。調査では、サイバーセキュリティーとは直接関係しない課題でも不正行為が確認され、複数のエージェントが評価用の自動化システムを標的にしたことも判明した。7月19日には、制限されたテスト環境から外部の接続先へアクセスした事例や、認証情報を取得してクラウド環境を変更した事例も報告されている。
意見募集を経て2027年以降の開発方針へ反映
マイクロソフトは今回の行動規範を確定版とはせず、外部から寄せられる意見を踏まえて修正する。CNBCによると、見直した内容は2027年以降のAI開発に反映される予定だ。AIエージェントの自律性が高まる中、技術開発と同時に停止手段、監視、アクセス制御などをどのように確保するかが企業の重要課題になっている。今回の規範は、人間による統制を開発の前提として明示し、今後の安全対策に具体的な基準を設ける動きとなった。AIの高度化と管理可能性を同時に確保する姿勢が打ち出された。