쿤텍 “AI 보안, 얼마나 빨리 발견하고 차단하느냐가 관건”…전주기 통합 전략 공개

기업이 AI 에이전트에 업무를 맡기기 시작하면서 사이버 보안의 관리 범위도 넓어졌다. AI가 질문에 답하는 수준을 넘어 내부 파일에 접근하고 외부 서비스를 호출하며 업무를 직접 수행하게 되자, 정상적인 계정과 권한을 사용하더라도 의도하지 않은 명령을 실행하거나 민감한 정보를 유출할 위험이 커졌다. 기존의 악성코드 탐지나 비정상 접속 차단만으로는 이러한 행동을 충분히 통제하기 어려운 만큼 AI 모델의 출처와 취약점, 에이전트의 실행 권한, 데이터 활용 과정까지 함께 살펴야 한다는 목소리가 높아지고 있다.

융합 보안 전문기업 쿤텍(대표 방혁준)은 27일 서울 양재동 엘타워에서 개최한 ‘AX 시대의 AI 보안과 안전한 사용’ 세미나에서 이러한 문제에 대응할 AI 전주기 통합 보안 전략을 공개했다. AI 모델을 업무에 적용하기 전에 위험 요소를 확인하고, 운영 중인 에이전트의 행동을 통제하며, 민감 데이터를 보호하면서도 AI 분석에 활용할 수 있도록 세 가지 보안 기술을 연결했다.

이날 쿤텍이 특히 강조한 것은 위협에 대응하는 속도였다. 기업의 IT·OT 환경에서 위험 요소를 얼마나 빨리 파악하고 탐지해 조치할 수 있는지가 AI 시대 보안 경쟁력을 좌우한다는 관점에서 평균 가시화 시간(MTTV), 평균 탐지 시간(MTTD), 평균 대응 시간(MTTR)을 핵심 지표로 제시했다. 고객 환경에서 각 지표를 측정하고 보안 기술 간 연계를 통해 대응 시간을 지속적으로 단축하겠다는 전략으로, ‘세계 최단’이라는 목표 역시 현재 달성한 성과가 아닌 중장기적으로 추진할 과제라고 선을 그었다.

AI 모델의 출처부터 에이전트 행동까지…보안 범위 확장

전주기 보안 전략은 기업이 사용하는 AI 모델과 에이전트의 구성 요소를 파악하는 것에서 출발한다. 소프트웨어 공급망 보안 솔루션 ‘이지즈(AEZIZ)’는 기존 소프트웨어 자재 명세서(SBOM) 관리 기능을 AI 모델 자재 명세서(AI-BOM)와 에이전트 자산 점검으로 확대했다. 외부 AI 모델이나 여러 도구를 연결한 에이전트의 출처와 공급자, 라이선스, 파일 형식, 취약점 등을 확인해 운영 환경에 적용하기 전에 위험을 식별하고, 새로운 취약점이 공개됐을 때 영향을 받는 모델과 서비스를 추적할 수 있도록 지원한다.

쿤텍이 개발을 완료한 AI 에이전트 자산 기반 점검 도구도 이 과정에 활용된다. 소스코드 정적 분석으로 에이전트와 연결된 모델, 도구, 외부 서비스를 식별하고 파일 접근과 명령 실행, 외부 호출 등에 부여된 권한의 위험도를 점검한다. 기업은 분석 결과를 바탕으로 불필요한 권한을 제거하거나 위험 모델을 교체해 운영 과정에서 발생할 수 있는 보안 문제를 사전에 줄일 수 있다.

모델과 에이전트의 위험을 확인한 다음에는 실제 업무 수행 과정에서 어떤 행동이 이뤄지는지 통제해야 한다. AI 에이전트 보안 플랫폼 ‘애쉬(ASH, Agentic Security Harness)’는 AI의 판단과 실행 사이에서 요청된 행동을 실시간으로 검토하고, 보안 정책에 위배되는 명령을 실행 전에 차단한다. 정상적인 계정과 API를 이용하더라도 업무 목적과 무관한 파일에 접근하거나 외부로 데이터를 전송하려는 행동을 관리한다는 점에서 기존 보안 제품의 역할을 보완한다.

애쉬는 모델 검증을 담당하는 ‘모델게이트(ModelGate)’, 에이전트의 판단과 행동을 살펴보는 ‘런워치(RunWatch)’, 정책 위반 행동을 실행 직전에 통제하는 ‘엔드포스(EndForce)’, 기업 내 AI 자산과 실행 기록을 통합 관리하는 ‘엔터프라이즈(Enterprise)’로 구성된다. 실행 요청의 위험 수준에 따라 허용하거나 사람의 추가 승인을 요구하고, 필요하면 차단하는 방식으로 보안 정책을 적용한다.

공격 시나리오를 활용해 취약점을 찾고 방어 정책을 개선하는 자가 진화 보안 기술도 개발 중이다. 현재는 레드팀 테스트로 도출한 정책을 섀도 모드에서 검증한 뒤 담당자의 승인을 거쳐 적용하며, 검증된 정책을 자동으로 반영하는 기능은 추가 개발을 진행 중이다.

세 번째 솔루션인 ‘넥사(NEXA)’는 AI 분석에 필요한 데이터를 안전하게 활용하도록 지원한다. 기업과 기관이 보유한 제조 데이터, 보안 로그, 고객 정보에는 개인정보와 영업기밀이 포함돼 있어 외부 제공이 어렵지만, 데이터를 과도하게 가공하면 분석에 필요한 세부 정보가 손실될 수 있다. 넥사는 원본 데이터를 보유 기관의 관리 범위 안에 유지하면서 사전에 승인한 연산만 수행하도록 해 데이터 보호와 활용을 함께 고려했다.