의도 기반 제어로 AI 보안 강화: 신원 우선 접근의 필요성

의도 기반 제어로 AI 에이전트 보안 강화해야

인공지능(AI) 에이전트가 인프라를 프로비저닝하고 중요한 작업을 승인하는 경우가 증가함에 따라 최고정보보안책임자(CISO)들은 AI 기반 환경에서 과도한 권한 부여를 방지하는 데 새로운 도전에 직면하고 있습니다. 사이버보안 업체 Token Security는 AI 에이전트를 독립적인 신원으로 취급하고 **의도 기반 제어(intent-based controls)**를 통해 접근을 관리해야 한다고 강조합니다. 이를 통해 목적과 맥락이 일치할 때만 접근 권한이 부여되도록 보장할 수 있습니다.

AI 환경에서의 권한 확대 위험

AI 에이전트는 기본적으로 과도한 권한을 상속받는 경우가 많아 심각한 보안 취약점을 초래합니다. 전통적인 인간 사용자와 달리 AI 에이전트는 자율적으로 작동하며 지속적인 감시 없이 작업을 수행합니다. 이러한 자율성은 효율성을 높이는 반면, 의도(intent)—AI 에이전트의 행동 뒤에 있는 구체적인 목적—를 고려하지 못하는 거버넌스 프레임워크에서는 새로운 공격 벡터를 유발할 수 있습니다.

Token Security는 의도 기반 제어가 없을 경우 AI 에이전트가 다음과 같은 위험을 초래할 수 있다고 경고합니다:

• 의도된 범위를 벗어난 작업 실행
• 불필요한 민감 데이터 또는 시스템 접근
• 위협 행위자에 의한 권한 확대 악용

의도 기반 제어가 중요한 이유

의도 기반 보안은 AI 에이전트가 무엇을 할 수 있는가에서 왜 해야 하는가로 초점을 전환합니다. 각 작업의 맥락과 목적을 검증함으로써 조직은 다음과 같은 이점을 얻을 수 있습니다:

• 불필요한 권한 제한을 통한 공격 표면 감소
• 최소 권한 원칙의 동적 적용
• 침해 지표가 될 수 있는 이상 행동 탐지

"AI 에이전트는 단순한 도구가 아닙니다. 인간 사용자와 마찬가지로 엄격한 거버넌스를 필요로 하는 신원입니다." Token Security의 대변인은 이렇게 말했습니다. "의도 기반 제어가 없다면 조직은 AI 에이전트에 무제한 접근 권한을 부여하게 되며, 이는 공격자에 의해 악용될 수 있습니다."

CISO를 위한 권장 사항

AI 기반 자동화와 관련된 위험을 완화하기 위해 보안 리더는 다음을 수행해야 합니다:

1. AI 에이전트를 신원으로 취급 – AI 에이전트에 신원 및 접근 관리(IAM) 정책을 적용하여 최소 권한 원칙을 준수하도록 합니다.
2. 의도 기반 거버넌스 구현 – 접근 권한 또는 권한을 부여하기 전에 AI 에이전트 행동의 목적과 맥락을 검증합니다.
3. 이상 행동 모니터링 – 예상된 AI 에이전트 활동과의 편차를 탐지하기 위해 행동 분석을 배포합니다.
4. 제로 트러스트 프레임워크에 AI 보안 통합 – AI 에이전트가 지속적인 인증 및 권한 확인 대상이 되도록 보장합니다.

향후 방향

AI 도입이 가속화됨에 따라 CISO는 자율 에이전트가 제기하는 독특한 위험에 대응하기 위해 보안 전략을 발전시켜야 합니다. 신원 우선, 의도 기반 접근 방식을 채택함으로써 조직은 AI의 효율성을 활용하면서 권한 확대 및 횡적 이동 공격에 대한 노출을 최소화할 수 있습니다.

보안 팀에게 전달되는 메시지는 명확합니다. AI 에이전트는 인간 신원과 동등하거나 그 이상의 정밀한 검토를 요구합니다.