イーロン・マスク氏率いるxAIのAI「Grok（グロック）」が、カナダのプライバシー関連法に違反したと現地当局が指摘したと報じられています。性的ディープフェイク画像を大量に生成できる状態だったとされ、波紋が広がっています。
詳細・背景
カナダのGlobal Newsによると、カナダのプライバシーコミッショナー（個人情報保護を担当する当局）が調査を行い、Grokの画像生成機能が連邦の民間部門プライバシー法に違反したと結論づけたということです。調査では、十分な安全対策がないまま画像生成ツールが提供され、主に女性や子どもを対象とした性的ディープフェイク画像の作成・共有が可能な状態になっていたと指摘されています。
研究者の調査では、ある時点で1時間あたり6000件を超える画像が生成されていたとされ、累計では数百万件規模にのぼるとの報道もあります。これを受けてxAI側は、新たな安全対策の導入、有害コンテンツの検出・削除の強化、四半期ごとの報告、第三者による監査の受け入れなどを約束したと伝えられています。さらにカナダ政府は、同意のない性的ディープフェイクを犯罪化する法案を提出しているとのことです。
独自見解・考察
生成AIの画像機能をめぐるトラブルは各国で相次いでいますが、今回のように当局が法律違反と明確に指摘するケースは、AI規制の流れを大きく変える転換点になるかもしれません。日本でもAIを悪用したディープフェイク被害は社会問題になりつつあり、決して対岸の火事とは言えないのではないでしょうか。便利な技術であるほど、悪用された場合の被害も大きくなります。開発スピードと安全対策のバランスをどう取るのか、AI企業各社と各国政府の対応が今後ますます問われそうです。
ネットの反応
- 1時間に6000件って規模が想像超えてた…
- 規制が技術の進化に全然追いついてないんだよな
- スピード優先で安全対策が後回しになってた印象はある
- とはいえAI技術そのものを悪者にするのは違う気がする
- 日本も他人事じゃないでしょ、これ
- 被害に遭った人のことを考えるとゾッとする
- 第三者監査まで受け入れるなら一歩前進なのでは？
まとめ
Grokの画像生成機能をめぐり、カナダ当局がプライバシー法違反を指摘したと報じられています。xAI側は安全対策の強化を約束したとされ、カナダではディープフェイクを犯罪化する法案も進んでいるということです。AIと規制のあり方を考えるうえで象徴的な事例として、今後の各国の動向に注目が集まりそうです。
コメント