기업 보안의 최우선 위협, AI 워크플로우 보안이 모델 보호 앞서는 이유

기업 AI 도입에서 워크플로우 보안, 심각한 취약점으로 부상

AI 기반 코파일럿과 어시스턴트가 일상 업무에 깊숙이 통합되면서 보안 팀은 여전히 기본 모델 보호에 집중하고 있지만, 더 시급한 위협은 간과하고 있다. 최근 사고들은 AI 도구를 둘러싼 프로세스와 통합인 워크플로우 보안이 사이버 범죄자의 주요 공격 벡터로 자리잡았음을 보여준다.

악성 크롬 확장프로그램, 90만 명 이상 사용자 데이터 유출 위험에 노출

이러한 변화의 대표적인 사례로, AI 생산성 도구로 위장한 두 개의 사기성 크롬 확장프로그램이 ChatGPT와 DeepSeek 대화에서 민감한 데이터를 탈취한 사건이 발견되었다. 90만 명 이상의 사용자를 확보한 이 확장프로그램들은 취약한 워크플로우 보안 제어를 악용해 채팅 로그, 인증 정보, 기업 기밀 데이터를 수집했다. 이 공격은 공격자들이 AI 모델 자체보다는 인간-AI 상호작용 계층을 표적으로 삼고 있다는 새로운 트렌드를 보여준다.

기술적 분석: 워크플로우 취약점이 전통적 방어망을 우회하는 방법

프롬프트 인젝션(prompt injection)이나 데이터 포이즈닝(data poisoning)과 같은 모델 중심 공격과 달리, 워크플로우 취약점은 다음을 악용한다:

• 브라우저 확장프로그램 API: 악성 확장프로그램은 사용자와 AI 플랫폼 간의 실시간 데이터 흐름을 가로채기 위해 권한을 남용한다.
• 문맥 기반 접근 제어 부족: AI 어시스턴트는 종종 호스트 애플리케이션(예: 이메일 클라이언트, IDE)으로부터 광범위한 권한을 상속받아, 횡적 이동(lateral movement) 기회를 제공한다.
• 섀도우 통합(Shadow integrations): 직원들이 무단으로 배포한 AI 도구는 기업 보안 정책을 우회하여 워크플로우를 검증되지 않은 서드파티 위험에 노출시킨다.

이번 크롬 확장프로그램 사건은 AI 모델 보안 프레임워크(예: OWASP Top 10 for LLMs)가 워크플로우 수준의 위협을 해결하지 못하는 중대한 격차를 드러냈다. 이러한 위협에는 다음이 포함된다:

• 세션 하이재킹(Session hijacking): 손상된 브라우저 세션을 통한 공격.
• 데이터 유출(Data exfiltration): 정상적인 API 호출을 가장한 데이터 탈취.
• AI 플러그인 생태계에 대한 공급망 공격(Supply chain attacks).

영향 분석: 워크플로우 보안이 모델 보호보다 우선시되는 이유

보안 전문가들은 워크플로우 보안으로의 전환이 시급한 이유로 다음을 꼽는다:

1. 노출 규모: 모델 공격은 종종 표적 공격이 필요한 반면, 워크플로우 공격은 AI 도구의 모든 사용자에게 영향을 미친다.
2. 데이터 민감성: AI 어시스턴트는 코드, 법률 문서, 재무 보고서 등 고도의 기밀 데이터를 처리하므로 공격자에게 매력적인 표적이 된다.
3. 탐지 어려움: 워크플로우 취약점은 정상적인 트래픽에 섞여 전통적인 이상 탐지 시스템을 회피한다.

AI 워크플로우 보안 강화 권고 사항

이러한 위험을 완화하기 위해 조직은 다음 조치를 취해야 한다:

• AI 통합에 대한 세분화된 접근 제어를 구현하고, 최소 권한 원칙에 따라 권한을 제한한다.
• Google의 Extension Developer Verification과 같은 도구를 활용해 확장프로그램 생태계를 모니터링하고 신뢰할 수 없는 AI 플러그인을 차단한다.
• AI 생성 콘텐츠에서 민감한 데이터 유출을 탐지하기 위해 실시간 데이터 유출 방지(DLP) 솔루션을 배포한다.
• AI 워크플로우에 대해 제로 트러스트 아키텍처를 도입하고, 모든 상호작용을 잠재적으로 손상된 것으로 간주한다.
• 세션 하이재킹 및 API 남용에 대한 워크플로우 복원력을 테스트하기 위해 레드팀 연습을 수행한다.

향후 방향

AI 도입이 가속화됨에 따라 보안 팀은 모델 강화(model hardening) 이상의 범위로 초점을 확장해야 한다. 브라우저 통합, API 게이트웨이, 사용자 접근 계층을 아우르는 워크플로우 보안은 이제 AI 위험 관리의 가장 중요한 최전선이 되었다. 크롬 확장프로그램 유출 사건은 AI 보안의 가장 취약한 연결 고리가 모델이 아니라, 이를 작동시키는 워크플로우라는 경각심을 일깨운다.