米AI企業のAnthropic（アンソロピック）が、自社の最新AIモデル「Fable 5」と「Mythos 5」をめぐり、ホワイトハウスとの調整のため技術スタッフをワシントンD.C.へ派遣したと報じられています。公開からわずか3日でモデルが停止に追い込まれたとされ、AI業界で大きな注目を集めています。
詳細・背景
複数の海外メディアの報道によると、米政府は国家安全保障上の理由から、米国内外を問わず外国籍の利用者や従業員に対し、Fable 5とMythos 5へのアクセスを停止するよう求める輸出管理上の指令を出したとされています。この指令は商務省関連から出されたと伝えられており、公開済みの商用フロンティアAIが連邦政府の介入によってオフラインになった初めてのケースとみられています。
きっかけとされているのは、Amazonの研究者が一連のプロンプト（AIへの指示文）を使い、Mythos系モデルから本来は制限されているはずのサイバー攻撃に関する情報を引き出せたという指摘です。これに加え、Amazonのアンディ・ジャシーCEOからの警告や、中国による不正アクセスへの懸念、サイバーセキュリティ上のリスクが背景にあるとみられています。
こうした事態を受け、Anthropicはシニア技術スタッフをワシントンD.C.に派遣し、ホワイトハウス当局者との会合を通じて、モデルを安全に管理できると説明しながら関係の修復を図っているということです。
独自見解・考察
今回の一件は、急速に進化するAI開発と国家安全保障との間に生じる緊張関係が、はっきりと表面化した象徴的な出来事ではないでしょうか。性能の高いモデルほど、悪用されたときの影響も大きくなるという構造があり、企業の自主的な安全対策だけでは政府が納得しにくい局面に入っているのかもしれません。一方で、公開済みのモデルを短期間で停止させる対応は、利用者や開発の現場に少なからぬ影響を与える可能性もあります。AI規制のあり方をめぐる議論が、今後さらに加速していくとみられます。
ネットの反応
- 3日で停止って早すぎない？それだけ危ないと判断されたってことかな
- セキュリティの抜け穴を見つけたのがAmazonっていうのが生々しい話だ
- 規制は大事だけど、いきなりオフラインは利用してた人がかわいそう
- 国家安全保障が絡むとAIもこうなるのか…時代を感じる
- 性能上げれば上げるほどこういうリスクも上がるんだろうな
- 政府の介入が早いのは逆に信頼できる気もする
- 結局この手の話は中国がキーワードになるのね
- 続報待ち。Anthropicがどう収束させるのか気になる
まとめ
AnthropicのAIモデル「Fable 5」「Mythos 5」が、米政府の輸出管理上の指令を受けて公開3日で停止され、同社が関係修復のため技術スタッフをワシントンD.C.へ派遣したと報じられています。背景には安全性やサイバーセキュリティへの懸念があるとみられ、AIと安全保障をめぐる議論の行方が注目されます。新たな情報が入り次第、続報をお伝えします。
コメント