프랑스 검찰, 그록 AI 딥페이크 악용 수사로 X 사무실 압수수색

프랑스 당국이 화요일 X(구 트위터)의 파리 사무실을 압수수색했습니다. 이는 성적 콘텐츠를 생성하는 딥페이크 이미지 제작에 X의 인공지능 도구인 **그록(Grok)**이 광범위하게 악용된 혐의에 대한 형사 수사의 일환입니다. X의 소유주인 일론 머스크(Elon Musk) 또한 조사관 앞에 출두하라는 소환장을 받았습니다.

이번 수사는 주로 공인들을 대상으로 한 비동의 성적 딥페이크 콘텐츠의 생성 및 유포에 대한 다수의 고발에 따른 것입니다. 프랑스 검찰은 X가 자사의 AI 기술 오용을 방지하기 위한 적절한 보호 조치를 취하지 않아 디지털 콘텐츠 및 괴롭힘 관련 현지 법규를 위반했는지 여부를 조사하고 있습니다.

기술적 배경

X의 AI 챗봇인 **그록(Grok)**은 2023년 말 플랫폼에 통합되었으며, 프리미엄 구독자에게 제공됩니다. 일반 목적의 상호작용을 위해 설계되었지만, 텍스트-이미지 생성 기능이 악용되어 음란물 제작에 이용되고 있습니다. 보안 연구자들은 그록을 포함한 AI 생성 딥페이크가 새롭고 진화하는 특성으로 인해 기존 콘텐츠 모더레이션 필터를 우회하는 경우가 많다고 지적했습니다.

영향 분석

이번 수사는 AI 도구에 대한 규제 감시가 강화되고 있음을 보여줍니다. 사이버보안 전문가들에게 이 사건은 혁신과 윤리적·법적 책임 간의 균형을 맞추는 도전 과제를 강조합니다. AI 생성 콘텐츠의 오용은 개인의 프라이버시, 평판, 정신 건강에 위험을 초래할 뿐만 아니라 플랫폼의 모더레이션 시스템에도 부담을 주고 있습니다.

향후 전망

X는 아직 압수수색이나 소환에 대해 공식 입장을 밝히지 않았습니다. 이번 수사 결과는 특히 디지털 서비스 법(DSA) 및 AI 법(AI Act) 하에서 유럽의 AI 도구 규제 방식에 중요한 선례가 될 수 있습니다. AI 기술을 활용하는 조직들은 유사한 법적 조치의 위험을 완화하기 위해 신흥 법적 프레임워크 준수를 모니터링하고 확보해야 합니다.

업데이트: X의 공식 입장이 확인되는 대로 본 기사를 업데이트할 예정입니다.