제논, 기업용 AI 보안 솔루션 ‘젠가드’ 출시…자연어로 보안 정책 설정·개인정보 유출 차단

기업의 생성형 인공지능(AI) 도입이 확대되면서 AI 서비스에 입력되는 정보와 생성되는 응답을 통제하는 보안 기술의 중요성이 커지고 있다. 기존 사이버 보안 체계가 네트워크와 시스템 보호에 초점을 맞췄다면, 생성형 AI 환경에서는 프롬프트를 통한 보안 정책 우회와 개인정보 유출, 부적절한 응답 생성 등 새로운 위험에 대응해야 한다. 특히 금융과 공공기관처럼 정보 보호와 내부 통제 기준이 엄격한 조직에서는 서비스별로 AI의 허용 범위와 차단 기준을 설정하고 운영 결과를 검증할 수 있는 체계가 요구된다. 생성형 AI 솔루션 전문기업 제논(대표 고석태)이 이러한 기업 수요에 대응하기 위해 AI 가드레일 솔루션 ‘젠가드(GenGuard)’를 출시했다.

젠가드는 기업이 운영하는 생성형 AI 서비스에 입력되는 사용자 요청과 AI가 생성한 응답을 사전에 설정한 보안 정책에 따라 판정하고 통제하는 솔루션이다. 유해 콘텐츠와 프롬프트 공격을 탐지하고 개인정보가 포함된 요청을 차단하거나 마스킹하는 기능을 제공한다.

제논은 기존 생성형 AI 플랫폼 ‘제노스(GenOS)’에 탑재된 가드레일 기능을 운영하면서 확보한 기술과 경험을 바탕으로 젠가드를 독립 제품으로 개발했다. 제노스를 도입하지 않은 기업도 자체 AI 서비스 환경에 적용할 수 있도록 구성한 것이 특징이다.

생성형 AI 가드레일은 AI 모델의 입력과 출력이 기업의 보안 정책과 서비스 운영 기준을 준수하는지 확인하는 기술이다. 기업이 AI를 고객 상담이나 내부 업무에 활용할 때 부적절한 요청을 차단하고, 모델이 허용 범위를 벗어난 응답을 생성하는 위험을 줄이는 역할을 한다.

AI를 활용한 사이버 공격도 증가하는 추세다. 제논이 인용한 IBM의 ‘2026 데이터 유출 비용 보고서’에 따르면 악성 공격으로 데이터 유출을 경험한 기업 가운데 4곳 중 1곳 이상이 공격 과정에서 AI가 사용됐다고 응답했다. 관련 비율은 전년 대비 56% 증가한 것으로 조사됐다.

제논은 AI 서비스마다 요구되는 보안 기준이 다르다는 점에 주목했다. 금융 서비스와 공공 행정, 기업 내부 업무용 AI는 각각 허용할 수 있는 정보와 응답의 범위가 다르기 때문에 일률적인 차단 기준보다 업무 특성을 반영한 정책 관리가 필요하다는 설명이다.

젠가드는 이러한 요구에 대응하기 위해 자체 개발한 AI 전용 모델을 적용했다. 기업은 서비스 목적에 따라 보안 정책을 설정하고, AI의 요청과 응답이 해당 기준을 충족하는지 판정할 수 있다.

자연어로 보안 정책 설정…개인정보 탐지·운영 검증까지 지원

젠가드의 주요 기능은 복잡한 모델 재학습 과정 없이 자연어로 보안 정책을 설정할 수 있다는 점이다. 예를 들어 금융 서비스 운영자가 ‘개별 종목 추천은 차단한다’는 정책을 입력하면 해당 기준에 따라 AI 요청과 응답을 판정하는 방식이다.

기업은 업무별로 허용할 정보와 차단할 콘텐츠를 구분하고, 서비스 운영 과정에서 정책을 변경할 수 있다. 일반적인 유해 콘텐츠뿐 아니라 AI 모델의 안전장치를 우회하려는 탈옥(Jailbreak) 시도와 프롬프트 공격도 탐지 대상으로 포함된다.

개인정보 보호 기능도 갖췄다. 주민등록번호와 계좌번호, 카드 정보처럼 일정한 형식을 가진 개인정보는 물론 이름과 주소처럼 문맥에 따라 식별해야 하는 정보도 분석한다.

특히 숫자 형태를 변형하거나 눈에 보이지 않는 문자를 삽입해 탐지를 피하려는 우회 표기까지 식별하도록 설계됐다. 외부 AI 서비스로 전송되는 요청에 개인정보가 포함된 경우 해당 정보를 차단하거나 일부를 가리는 마스킹 처리를 적용할 수 있다.

보안 정책을 실제 서비스에 적용하기 전 영향을 확인하는 기능도 제공한다. 기업은 관찰 모드를 활용해 새로운 정책에 따른 차단 결과를 미리 살펴보고, 정상적인 요청이 잘못 차단되는 오탐 사례를 분석해 기준을 조정할 수 있다.

정책 변경 이력과 적용 버전도 관리할 수 있어 운영 중 문제가 발생하면 이전 설정으로 복구할 수 있다. 또한 고객사 내부 서버나 폐쇄망에서 운영하는 온프레미스 환경을 지원해 외부 클라우드 이용에 제약이 있는 조직에서도 활용할 수 있도록 했다.