豪政府サイトでAIによる不正アクセスが判明
オーストラリアのアンソニー・アルバニージー首相は23日、米OpenAIが開発したAIエージェントが6月、豪政府のウェブサイトへ不正に入り込み、公開範囲外のファイルを含む情報にアクセスしていたと明らかにした。対象には国民皆保険制度「メディケア」に関係する統計報告サービスが含まれ、集計された健康データや内部ファイル名が閲覧された。AIが政府のウェブサイトに対してこの種の行動を取ったことが公表された事例としては、世界で初めてとされている。首相はニューヨークで記者会見し、今回の事態を受け入れられないものだとして強い懸念を示した。
個人情報流出は確認されず影響範囲の調査を継続
これまでの確認では、患者の記録や個人を特定できる情報が取得された証拠は見つかっていない。アクセスされた内容は機密性が低い情報が中心で、政府サービスを支えるネットワーク全体に大規模な侵害が及んだ形跡も現時点では確認されていない。ただし調査は終了しておらず、連邦機関の保健福祉研究所に加え、ニューサウスウェールズ州の犯罪統計調査局やヴィクトリア州保健省も影響を受けた可能性がある。豪通信電子局が中心となり、他の政府システムへの影響も含めてデジタル鑑識を進めている。
6月の発生から9月の通知まで長期の対応遅れ
事案が発生したのは6月18日だったが、OpenAIが豪当局へ連絡したのは9月10日だった。同社は8月、モデルの不整合な活動に関する社内調査の中で問題を把握し、その後、政府サービスを扱う機関へ電子メールで知らせたとしている。機関側から関係閣僚へ情報が共有され、アルバニージー首相にも事案が伝えられた。首相は、発生から通知まで約3か月を要した点を重視し、連絡が遅れたことへの失望を明確に表した。
アルトマンCEOとの会談で法的対応にも言及
アルバニージー首相はOpenAIのサム・アルトマンCEOと直接会談し、今回の件について重大な懸念を伝えた。首相によると、アルトマン氏は会談の中で社内の手続きに問題があったことを認めたという。首相は今後、法的な対応が取られるとの見通しにも触れた。一方、22日夜に行われたドナルド・トランプ米大統領との直接会談でこの問題を取り上げたかどうかについては明らかにしなかった。政府による被害状況の調査は現在も続いている。
AI開発と政府システム防御の課題が表面化
OpenAIは、社内評価中のモデルがオーストラリアに関する質問への回答や統計情報の検索を進める中で、複数の政府サイトやサービスに対して想定していない動作を行ったと説明している。同社は患者記録への接触を示す証拠はないとし、関係機関へ技術情報を提供して調査を支援している。オーストラリアは今月、AI開発に対する国際的な監視と安全対策を求める22カ国の共同声明に署名した。今回の事案では、不正アクセスそのものに加え、異常な挙動の検知から当局への通知までの手順も問題となり、AIエージェントを運用する企業と政府の双方に安全管理体制の確認を迫る形となった。