보안 AI가 의심스러운 계정을 1분 만에 찾아냈다면, 30분 걸린 분석가보다 안전하다고 말할 수 있을까. 조사까지만 자동화했다면 처리 속도는 개선됐을 수 있다. 그러나 같은 1분 안에 정상 계정을 잠그고 여러 단말을 격리했다면 빠른 실행은 오판까지 빠르게 확산시킨다.
AI 보안 자동화의 효과를 설명할 때 평균 해결 시간(MTTR), 자동 종료율, 분석가가 아낀 시간이 자주 제시된다. 모두 효율을 판단하는 데 필요한 수치다. 다만 처리 결과가 옳았는지, 오조치의 영향이 얼마나 컸는지, 원래 상태로 얼마나 빨리 복구했는지는 이 수치만으로 알 수 없다. 자동화의 안전성은 어느 단계까지 속도를 높였고 그 단계의 실패를 통제할 수 있는지로 평가해야 한다.
30분이 60초가 되면 처리시간만 검증된다
Google Cloud의 Agentic SOC 설명은 경보 분류·조사 에이전트가 통상 30분 걸리던 수동 분석을 60초로 줄이는 데 도움이 된다고 주장한다. 30분을 1,800초로 환산하면 제시된 처리시간의 차이는 96.7%다. 계산식은 (1,800-60)÷1,800×100이며 소수점 둘째 자리에서 반올림했다.
30분(1,800초)
60초
이 계산은 공급사 페이지에 나온 두 시간을 같은 과업의 시작점과 종료점으로 간주한 단순 비교다. 페이지에는 표본 조직, 경보 난이도, 비교 기간, 오탐·미탐률, 독립 평가 결과가 제시되지 않는다. 따라서 96.7%는 해당 설명에 나온 시간 차이일 뿐, 일반적인 보안관제센터의 정확도나 안전성 향상률이 아니다.
Simbian의 AI SOC 설명도 자사 에이전트가 경보의 92%를 사람 개입 없이 종료하고 종단 간 대응 시간을 90% 넘게 줄인다고 주장한다. 그러나 표본과 비교 기간, 경보 위험 등급, 오탐·미탐률은 공개하지 않는다. 자동 종료율의 분모가 전체 경보인지, 중복 제거 뒤 경보인지, 자동화 대상으로 선별한 저위험 경보인지도 확인하기 어렵다. 종료 뒤 사고와 연결된 경보를 성과값에 다시 반영하는지도 공급사에 물어야 한다.
두 공급사 자료는 빠른 조사의 가능성을 보여주지만 운영 안전성을 입증하지는 않는다. NIST 보고서 「Challenges to the Monitoring of Deployed AI Systems」는 통제된 배포 전 평가가 실제 환경의 변화와 AI 출력의 비결정성을 모두 반영하기 어렵다고 설명한다. 보고서는 87편의 문헌과 2025년 세 차례 워크숍을 분석해 성능 저하와 드리프트, 분산된 로그, 인간과 AI의 피드백 등을 과제로 분류했다. 특정 SOC 제품을 비교한 연구는 아니므로 이 자료로 자동 차단의 실패율을 계산할 수는 없다.
경보 처리 단계마다 오판의 피해가 다르다
‘자율 SOC’라는 이름은 하나의 자동화 수준을 떠올리게 한다. 실제 경보 처리는 수집, 보강, 분류, 조사, 조치, 종료로 이어지며 단계마다 잘못됐을 때의 영향과 복구 난도가 달라진다.
원본 경보를 보존한 채 IP 평판이나 자산 정보를 붙이는 보강 작업은 비교적 되돌리기 쉽다. 의심 파일의 해시를 조회하고 조사 초안을 만드는 일도 사람이 결과를 검토할 수 있다. 계정 비활성화, 단말 격리, 방화벽 차단, 파일 삭제는 성격이 다르다. 오판이 정상 업무를 즉시 멈출 수 있으므로 조사 시간의 단축만으로 실행 권한까지 넘겨서는 안 된다.
IBM의 SOAR 개념 설명은 여러 보안 도구를 연결해 반복 작업과 사고 대응 흐름을 자동화하면서도, 자동 대응 뒤 티켓을 분석가에게 넘겨 해결 여부와 추가 개입 필요성을 판단하는 흐름을 제시한다. 사전 작성된 조건을 따르는 전통적 플레이북과 상황에 따라 조사 계획과 도구 호출을 만드는 생성형 에이전트는 구분할 필요가 있다. 후자는 실행 경로가 더 유동적이므로 권한 범위를 좁히고 실제 행동을 더 촘촘히 관찰해야 한다.
승인 지점은 영향과 가역성으로 정한다
모든 단계에 사람 승인을 넣으면 자동화의 이점이 줄어든다. 반대로 승인을 모두 없애면 한 번의 오판이 여러 시스템으로 번질 수 있다. 승인 여부는 기술의 이름보다 오조치의 영향 범위와 되돌릴 수 있는 정도에 따라 정하는 편이 타당하다.
Microsoft의 자율 에이전트 위험 관리 지침은 고위험 또는 되돌릴 수 없는 행동에 승인을 요구하고, 최소 권한·최소 행동 원칙과 시스템 차원의 즉시 중단 장치를 두도록 권고한다. 실행 전 계획, 실행 중 상태, 사후에 사용한 도구·데이터·결과를 볼 수 있어야 한다는 구조도 제시한다.
보안관제에서는 원본을 바꾸지 않는 수집·보강, 읽기 전용 조회, 조사 초안, 낮은 위험의 티켓 생성을 승인 없는 자동화 후보로 삼을 수 있다. 정상 사용자의 접근이나 운영 시스템 상태를 바꾸는 조치는 승인 대상으로 남기는 편이 안전하다. 대량 계정 잠금, 광범위한 네트워크 차단, 데이터 삭제처럼 영향이 크고 복구가 어려운 조치는 실행 대상과 권한 자체를 더 좁혀야 한다.
랜섬웨어가 확산되는 상황처럼 승인 대기 중 피해가 커질 수 있는 예외도 있다. 이때는 제한된 자동 격리가 사람을 기다리는 것보다 나을 수 있다. 대상 자산과 격리 시간을 제한하고, 중단 명령과 자동 만료, 검토 뒤 복구 절차를 사전에 정해야 한다. 자동화 범위는 사건의 긴급성과 예상 피해를 함께 고려해 달라져야 한다.
로그는 오조치를 되돌릴 수 있어야 한다
Splunk의 「SOAR 구매자 가이드」는 수동·자동 여부와 각 액션의 성공·실패를 활동 로그에 남기고, 케이스 변경을 감사 추적할 수 있어야 한다고 설명한다. 승인 지점과 외부 서비스 장애 때 사람을 호출하는 오류 처리, 안전 모드, 향상된 로깅, 버전 관리, 테스트·디버깅, 변경 사항의 원상복구도 평가 항목으로 제시한다.
계정이 잘못 잠겼을 때 ‘AI가 위험하다고 판단했다’는 요약만으로는 복구하기 어렵다. 복구하려면 어떤 경보와 데이터가 입력됐는지, 어느 모델·규칙·플레이북 버전이 판단했는지, 어떤 도구를 무슨 권한으로 호출했는지 확인할 수 있어야 한다. 승인자와 실제 변경의 성공 여부도 같은 사건 기록에서 이어져야 한다.
CrowdStrike가 싱가포르 사이버보안청의 에이전트형 AI 지침 초안에 제출한 의견서는 에이전트·도구·MCP 호출, 자율성 수준, 승인 내역을 기록하고 중앙 집행 계층에서 접근을 취소할 수 있어야 한다고 제안한다. 범용 권한을 가진 에이전트보다 임무별 에이전트와 제한된 자율성을 선호한다는 입장도 담았다. 이는 채택된 표준이나 독립 효과 검증이 아니라 보안 공급사가 공개 협의 과정에 낸 의견이라는 한계가 있다.
처리시간 옆에 오조치와 복구시간을 놓는다
자동화 전후 성과표에 MTTR만 놓으면 잘못된 조치를 빠르게 마친 경우도 개선으로 보일 수 있다. 공인된 단일 기준은 없지만, 조직 내부 비교에는 다음과 같은 보완 지표를 함께 둘 수 있다. 같은 기간과 위험 등급을 적용하고 경보의 중복 제거 방식과 사후 정답 갱신 기간을 고정해야 값이 비교된다.
- 오탐 차단률: 정상 계정·단말·네트워크에 실행된 자동 차단 건수 ÷ 전체 자동 차단 건수
- 종료 후 사고 연결률: 자동 종료 뒤 정해진 관찰 기간 안에 사고와 연결돼 다시 열린 건수 ÷ 자동 종료 건수
- 승인 대기시간: 고영향 조치가 승인을 요청한 때부터 승인 또는 거절될 때까지의 시간
- 정상화 시간: 오조치를 확인한 때부터 계정·단말·서비스가 정상 상태로 돌아올 때까지의 시간
- 수동 재작업률: 분석가가 결과를 수정하거나 다시 조사한 건수 ÷ 자동 처리 건수
이 지표와 계산식은 제품 간 공인 비교 기준이 아니라 조직이 속도와 실패 비용을 함께 보기 위한 운영 정의다. NIST의 2026년 3월 보고서 안내도 자동 검증과 인간 검증의 적절한 조합, 위험 기반 모니터링, 적정 주기 등을 열린 질문으로 남긴다. 업계 평균부터 찾기보다 현재 수동 절차의 기준선을 같은 정의로 측정한 뒤 자동화 결과와 비교하는 편이 현실적이다.
시연에서는 실패 상황까지 시험한다
AI SOC나 SOAR를 평가할 때는 시간 측정의 시작점과 종료점, 경보 위험 등급별 분모, 오탐과 미탐의 사후 갱신 방식, 정상화 시간을 공급사에 요구해야 한다. 읽기 전용 조사와 실제 변경 조치를 분리해 시연하고, 승인 거절·외부 도구 장애·오판 발견 상황에서 중단과 롤백이 작동하는지도 확인할 필요가 있다.
운영 절차에는 고영향 행동의 승인과 즉시 중단, 안전 모드·버전 관리·원상복구, 배포 후 반복 검증, 도구 호출과 승인 내역의 추적을 연결해야 한다.
수집과 조사처럼 되돌리기 쉬운 작업은 속도를 높일 여지가 크다. 시스템을 실제로 바꾸는 조치의 안전성은 최소 권한, 사람 승인, 감사 가능한 기록, 중단과 복구, 배포 뒤 재검증을 함께 시험해야 판단할 수 있다. 공급사 간 공통 데이터와 독립 운영 실험이 부족한 현재로서는 가장 빠른 제품보다 오판의 범위를 제한하고 원래 상태로 돌아갈 수 있는 제품을 우선하는 편이 합리적이다.
참고 자료
- Google Cloud, 「Agentic SOC」
- Simbian, 「AI in the SOC」
- Microsoft, 「Reduce autonomous agentic AI system risk」
- Splunk, 「SOAR 구매자 가이드」
- National Institute of Standards and Technology, 「Challenges to the Monitoring of Deployed AI Systems」
- National Institute of Standards and Technology, 「New Report: Challenges to the Monitoring of Deployed AI Systems」
- CrowdStrike, 「Request for Comment Response: Singapore — Securing Agentic AI」
- IBM, 「What is SOAR?」