フランス当局、Grok AIディープフェイク悪用でX社オフィスを家宅捜索

フランス検察、Grok AIディープフェイク悪用でX社を捜査

フランス当局は火曜日、X社（旧Twitter）のパリオフィスに家宅捜索を実施した。これは、同社のAIツール「Grok」が性的なディープフェイク画像の生成に悪用されたことを巡る刑事捜査の一環である。X社のオーナーであるイーロン・マスク氏も、捜査当局への出頭を要請されている。

この捜査は、同意のない性的なディープフェイク画像の作成および拡散に関する複数の苦情を受けて開始された。特に公人を標的とした事例が多発しており、フランス検察は、X社がAI技術の悪用を防ぐための適切なセーフガードを実施しなかったかどうかを調査している。これにより、デジタルコンテンツやハラスメントに関する現地法に違反した可能性がある。

技術的背景

X社のAIチャットボット「Grok」は、2023年後半にプラットフォームに統合され、プレミアム会員向けに提供されている。Grokは一般的な対話を目的として設計されているが、そのテキストから画像を生成する機能が悪用され、性的なコンテンツが作成される事態が発生している。セキュリティ研究者によると、Grokを含むAI生成ディープフェイクは、その新規性と進化の速さから、従来のコンテンツモデレーションフィルターを回避することが多いという。

影響分析

この捜査は、AIツールとその悪用可能性に対する規制当局の監視が強まっていることを浮き彫りにしている。サイバーセキュリティの専門家にとって、この事例は、イノベーションと倫理的・法的責任のバランスを取ることの難しさを示している。AI生成コンテンツの悪用は、個人のプライバシー、名誉、精神的健康にリスクをもたらすだけでなく、プラットフォームのモデレーションシステムにも負担をかけている。

次のステップ

X社は、家宅捜索や出頭要請に対してまだ公式な声明を発表していない。この捜査の結果は、特に**デジタルサービス法（DSA）やAI法（AI Act）**の下で、欧州におけるAIツールの規制方法に先例を残す可能性がある。AI技術を活用する組織は、今後の動向を注視し、新たな法的枠組みへの準拠を確保することで、同様の法執行リスクを軽減すべきである。

更新：X社から公式声明が発表され次第、本記事を更新します。