中国当局が、政府への異論や反体制的な傾向を持つ人物を人工知能（AI）で事前に割り出そうとしていた、と海外メディアが報じています。膨大な個人データを解析し「政治的リスク」を予測する仕組みが検討されていたとみられ、監視社会のさらなる強化につながるのではないかと話題になっています。
詳細・背景
報道によると、開発が試みられたとされるシステムは、個人のオンライン上の行動や移動履歴などを総合的に分析し、デモや抗議活動に加わる可能性が高い人物へスコアを付与する設計だったとされています。具体的には、海外メディアへのアクセス傾向、VPNの利用頻度、過去に抗議活動が起きた場所への立ち寄り、活動家との接点といった要素が評価対象に含まれていた可能性があると伝えられています。
こうした「予測型」の監視は、すでに広く普及している顔認証カメラや行動データの収集をさらに踏み込ませるものとみられています。中国ではAIを活用した検閲や世論動向の分析が進んでいるとの指摘も以前からあり、今回の件もその延長線上にあるとみる見方が出ています。一方で、報じられている内容には研究段階のものも含まれるとされ、実際にどの程度運用されているのかは明確になっていない部分もあります。
独自見解・考察
「まだ何も起こしていない人」を行動データから予測して選別するという発想は、技術的に可能かどうか以前に、根拠の確かさという点で大きな課題を抱えているのではないでしょうか。相関にすぎないデータがあたかも危険性の証拠のように扱われれば、無関係な人が不利益を被るリスクも否定できません。AIによる効率化が、そのまま公平さや正確さを意味するわけではない、という点はあらためて意識されてよいのかもしれません。各国がAI規制の枠組みを整えつつある今、技術の使われ方そのものが問われていると言えそうです。
ネットの反応
- SF映画みたいな話が現実になりつつあるのがこわい
- 予測って言っても結局はデータの当てはめでしょ、冤罪が増えそう
- 監視技術自体はどの国も持ってる、中国だけの話じゃない気がする
- VPN使ってるだけでスコア付くなら大半の人が引っかかるのでは
- 効率はいいんだろうけど、間違ってたときの責任は誰が取るんだ
- こういう技術は便利な防犯にも転用できるから一概に否定はできない
- 報道ベースだからどこまで本当なのか冷静に見たい
- 結局は使う側の倫理次第ということなんだろうな
まとめ
中国がAIを使って反体制的な傾向を予測しようとしていた、という報道は、技術の進歩と人権・プライバシーのバランスをめぐる議論を改めて呼び起こしています。報じられた内容には未確認の部分も残されており、今後の続報が注目されます。AIが社会のあり方をどう変えていくのか、引き続き冷静に見ていく必要がありそうです。
コメント