마이크로소프트 코파일럿에서 단일 클릭으로 데이터 유출 가능하게 하는 Reprompt 공격 발견

연구진, 마이크로소프트 코파일럿을 표적으로 한 Reprompt 공격 발견

사이버 보안 기업 **바рони스(Varonis)**의 연구진이 Reprompt라고 명명된 새로운 공격 벡터를 공개했습니다. 이 공격은 위협 행위자가 **마이크로소프트 코파일럿(Microsoft Copilot)**에서 단일 클릭만으로 민감한 데이터를 유출할 수 있게 하며, 기업 보안 통제를 완전히 우회할 수 있어 AI 기반 챗봇 도구를 활용하는 조직에 중대한 위험을 초래합니다.

Reprompt 공격의 기술적 세부 사항

Reprompt 공격은 합법적인 마이크로소프트 링크와 AI 챗봇 기능을 악용하여 피해자를 공격합니다. 바рони스에 따르면, 이 공격은 표면상 무해해 보이는 마이크로소프트 URL을 한 번 클릭하는 것만으로 데이터 유출을 유발할 수 있습니다. 마이크로소프트의 수정 조치가 완료될 때까지 구체적인 기술적 메커니즘은 공개되지 않았지만, 이 공격은 다음과 같은 요소를 활용하는 것으로 보입니다:

• AI 프롬프트 조작을 통해 코파일럿 상호작용에서 민감한 정보를 추출
• 합법적인 마이크로소프트 도메인을 사용하여 보안 도구의 탐지를 회피
• 단일 클릭 실행으로 복잡한 사회공학적 기법의 필요성을 감소

이 공격은 전통적인 악성코드나 피싱 기법에 의존하지 않기 때문에 기존 방어 체계에서는 특히 탐지가 어렵습니다.

영향 및 위험성

Reprompt 공격은 기업에 여러 가지 중대한 위험을 초래합니다:

• 데이터 유출: 위협 행위자가 이메일, 문서, 내부 커뮤니케이션 등 기밀 기업 데이터를 유출할 수 있으며, 경고 신호 없이 이루어질 수 있습니다.
• 보안 통제 우회: 이 공격은 이메일 필터링, 엔드포인트 보호, AI 전용 모니터링 도구 등 기존 보안 통제를 우회합니다.
• 낮은 진입 장벽: 단일 클릭만으로도 공격이 가능하기 때문에 성공적인 침해 가능성이 높아지며, 광범위한 악용 가능성이 증가합니다.

마이크로소프트 365에 통합된 마이크로소프트 코파일럿은 기업 환경에서 널리 사용되고 있어, 이 취약점의 잠재적 영향이 더욱 확대됩니다. 코파일럿을 업무 생산성 도구로 활용하는 조직은 데이터 유출 위험에 더 많이 노출될 수 있습니다.

보안 팀을 위한 권고 사항

마이크로소프트가 아직 패치를 배포하지 않은 상황에서, 보안 전문가들은 다음과 같은 조치를 취할 것을 권장합니다:

1. AI 상호작용 모니터링: 코파일럿 쿼리 및 응답에 대한 로깅과 이상 탐지를 구현하여 비정상적인 데이터 접근 패턴을 식별합니다.
2. 민감 데이터 접근 제한: 코파일럿의 권한을 민감하지 않거나 반드시 필요한 기업 데이터에만 접근하도록 제한합니다.
3. 사용자 인식 교육: 직원이 마이크로소프트에서 발송된 것으로 보이는 링크라도 클릭에 주의하도록 교육하고, AI 지원 워크플로우에서의 경각심을 강조합니다.
4. 고급 위협 탐지 도구 배포: 행동 분석 및 AI 기반 보안 도구를 활용하여 비정상적인 유출 시도를 탐지합니다.
5. 최신 정보 유지: 마이크로소프트의 보안 권고 사항을 주시하며 Reprompt 공격과 관련된 패치 또는 완화 조치를 신속히 적용합니다.

바рони스는 마이크로소프트의 수정 조치가 완료된 후 추가 기술 세부 정보를 공개할 예정입니다. 보안 팀은 이 위협을 활발한 공격으로 간주하고 대응 방안을 조정해야 합니다.