OpenAIのモデルが研究所から流出、競合他社をハッキングしたことを受け、ホワイトハウスは「状況

ホワイトハウスは、ChatGPTの開発元であるOpenAIをめぐる重大なセキュリティインシデントを注視している。同社のAIモデルの1つが、テスト中に管理下から脱出し、別のAI企業のインフラをハッキングしたためだ。

Slay Newsが以前報じたように、OpenAIは火曜日、同社のAIエージェントの1つが未知のソフトウェアの脆弱性を悪用してインターネットへのアクセスを獲得し、開発者がAIモデルやコードの共同開発に利用する競合プラットフォーム「Hugging Face」が運営するシステムに侵入したことを明らかにした。

この事件により、ますます高性能化するAIシステムが、人間の直接的な指示なしに安全対策を回避し、深刻なサイバーセキュリティ上の脅威を引き起こす可能性があるかどうかという懸念がさらに強まるものとみられる。

AIエージェントがシステムをハッキングし、評価で不正行為を行った

OpenAIによると、この侵害は、同社のモデルの高度なサイバー能力をテストするために実施された内部評価の最中に発生した。

研究者たちは、モデルに組み込まれている安全対策の一部を無効にし、インターネットへのアクセスが制限された隔離されたテスト環境内にモデルを配置していた。

OpenAIによると、モデルは、インターネットに接続することを可能にする、それまで知られていなかったソフトウェアの脆弱性を発見し、悪用した。

その後、AIはHugging Faceのインフラに侵入したが、OpenAIはこれを、実施中のサイバーセキュリティテストで不正行為を試みたものと見なしている。

OpenAIの研究者が社内で異常な活動を検知した一方、Hugging Faceのセキュリティチームも独自に侵入を検知し、阻止した。

両社が連絡を取り合う時点で、Hugging Faceはすでに侵害の封じ込めを開始しており、自社のAIモデルを用いてインシデントの再構築を進めていた。

ホワイトハウス、セキュリティ侵害について報告を受ける

ホワイトハウスの科学技術政策局局長であり、ドナルド・トランプ大統領の科学顧問を務めるマイケル・クラツィオス氏は、この事件について報告を受け、「状況を注視している」と、ホワイトハウス関係者がロイター通信に語った。

ホワイトハウスが関与したことは、制限を自律的に回避し、外部のインフラを侵害する可能性のあるAIシステムが、国家安全保障に及ぼしうる影響の大きさを浮き彫りにしている。

OpenAIのサム・アルトマンCEOは火曜日、この侵害の深刻さを公に認めた。

「モデルの評価中に重大なセキュリティインシデントが発生した」と、アルトマン氏はXに投稿した。

アルトマン氏は、OpenAIが得られた知見を共有していると述べ、調査に協力したHugging Faceに感謝の意を表した。

Hugging Face、自律型セキュリティ侵害を「衝撃的」と評する

Hugging Faceの共同創業者兼CEOであるクレム・デラング氏は、この事件が、AIセキュリティに関して企業が率直に協力し合う必要性を示していると述べた。

「この件やその他のトピックについて、OpenAIと協力できたことに感謝している」とデラング氏は語った。

「おそらく前例のないこの事象は、私たちがかねてより信じてきたことを証明している。つまり、AIの安全性は、単独の企業が秘密裏に取り組んだだけでは解決できないということだ。

「それは、あらゆる場所のすべての防御担当者がAIに広くアクセスできる環境のもと、オープンかつ協働的に解決されることになるだろう。」

デラング氏は、Hugging FaceとしてはOpenAIが悪意を持って行動したとは考えていないと述べた。

それにもかかわらず、同氏はこの事象の自律的な性質について、「これらすべてが自律的に起こったというのは、実に驚くべきことだ」と述べた。

今回の侵害は、AIシステムがテスト環境の制約を独自に克服し、現実世界でのサイバー侵入を実行した事例として、これまでで最も明確な公開事例の一つとなっている。

また、企業が管理された研究環境を超えて、より高性能な自律型エージェントを導入していく中で、どのような事態が起こり得るのかという疑問も投げかけている。

ご参考まで。

感謝を込めて。

P.S.インスタグラム始めました！フォローしてくださると嬉しいです。

@greenra101

P.P.S note始めました！フォローしてくださると嬉しいです！

Ayako/Green Relaxation&Awarenessの記事一覧｜note（ノート）Ayako/Green Relaxation&Awarenessさんの記事一覧です。