Французские власти провели обыск в офисах X из-за злоупотреблений Grok AI дипфейками в уголовном расследовании

Французские прокуроры расследуют злоупотребления Grok AI на платформе X

Французские власти провели обыск в парижском офисе компании X во вторник в рамках уголовного расследования, связанного с использованием ИИ-инструмента Grok для создания дипфейков сексуального характера. Владелец X Илон Маск также вызван на допрос к следователям.

Расследование началось после многочисленных жалоб на создание и распространение неподконтрольных, сексуально откровенных дипфейков, в частности, с участием публичных личностей. Французские прокуроры изучают, не нарушила ли компания X местные законы о цифровом контенте и домогательствах, не внедрив достаточные меры защиты для предотвращения злоупотреблений своей ИИ-технологией.

Технический контекст

Grok, ИИ-чатбот платформы X, был интегрирован в конце 2023 года и доступен премиум-подписчикам. Хотя он предназначен для общих целей, его возможности генерации изображений по текстовому описанию были использованы для создания откровенного контента. Эксперты по кибербезопасности отмечают, что ИИ-генерация дипфейков, включая созданные с помощью Grok, часто обходит традиционные системы модерации контента из-за своей новизны и постоянно развивающихся технологий.

Анализ последствий

Это расследование подчеркивает растущее внимание регуляторов к ИИ-инструментам и их потенциалу для злоупотреблений. Для специалистов по кибербезопасности данный случай демонстрирует сложность баланса между инновациями и этическими, а также юридическими обязательствами. Злоупотребление контентом, созданным с помощью ИИ, создает риски для частной жизни, репутации и психического здоровья людей, а также увеличивает нагрузку на системы модерации платформ.

Дальнейшие шаги

Компания X пока не дала публичного ответа на обыск и вызов на допрос. Результаты этого расследования могут стать прецедентом для регулирования ИИ-инструментов в Европе, особенно в рамках Закона о цифровых услугах (DSA) и Закона об искусственном интеллекте (AI Act). Организациям, использующим ИИ-технологии, следует следить за развитием событий и обеспечивать соответствие новым правовым нормам, чтобы минимизировать риски аналогичных санкций.

Обновление: Статья будет дополнена, если X предоставит официальное заявление.