딥브레인AI, 딥페이크 인물 도용 차단하는 ‘페이스 아이디’ 개발…얼굴 식별·영상 분석 자동화

생성형 인공지능(AI)을 활용한 이미지와 영상 제작이 보편화되면서 실제 인물의 얼굴을 무단으로 사용하거나 특정인을 사칭하는 딥페이크 콘텐츠가 새로운 위험 요인으로 떠오르고 있다. 특히 콘텐츠 제작·공유 플랫폼에서는 생성된 이미지가 실제 인물의 초상권을 침해하는지 확인하고, 보호 대상 인물이 무단으로 활용되는 상황을 사전에 차단할 필요성이 커지고 있다. 그러나 얼굴 인식 과정에서 촬영 각도나 표정, 안경과 같은 외형적 변화가 발생하면 동일 인물을 놓치거나 서로 다른 사람을 같은 인물로 판단할 가능성이 있다. 딥브레인AI가 이러한 문제에 대응하기 위해 얼굴 특징 분석과 인물 데이터베이스(DB) 비교, 영상 구간 탐지를 결합한 인물 식별 기술을 개발했다.

생성형 AI 전문기업 딥브레인AI(대표 장세영)는 이미지와 영상에 등장하는 인물을 분석해 딥페이크를 활용한 인물 도용을 방지하고 초상권 보호를 지원하는 ‘페이스 아이디(Face ID) 판별’ 기술 개발을 완료했다.

페이스 아이디 판별은 딥브레인AI의 생성형 AI 안전 엔진 ‘AI 가드(AI Guard)’를 구성하는 기술로 이미지나 영상에서 검출한 얼굴을 사전에 등록된 보호 대상 인물 DB와 비교해 동일 인물 여부를 판단하는 방식으로 작동한다. 이번 기술은 얼굴 인식 과정에서 발생할 수 있는 두 가지 문제를 줄이는 데 초점을 맞췄다. 보호 대상 인물이 등장했는데도 이를 식별하지 못하는 경우와 외모가 비슷한 다른 사람을 보호 대상 인물로 잘못 판단하는 경우다. 안경과 모자, 앞머리, 수염, 촬영 각도, 표정 등 얼굴 인식 결과에 영향을 줄 수 있는 조건을 고려해 판정 기준을 차등 적용하도록 설계했다. 동일 인물이라도 촬영 환경이나 외형에 차이가 발생할 수 있다는 점을 반영한 것이다.

판별 결과는 ‘안전’, ‘주의’, ‘일치’의 3단계로 구분된다. 보호 대상 인물과의 일치가 확인된 콘텐츠 생성 요청은 자동 차단하고, 추가 확인이 필요한 주의 단계는 담당자가 직접 검토하도록 운영할 수 있다. 이를 통해 콘텐츠 플랫폼 운영자는 모든 생성 요청을 일일이 확인하지 않고도 판별 결과에 따라 차단과 검토 절차를 구분할 수 있다.

딥브레인AI는 성능 평가 도0구와 실제 판별 서버에 동일한 판정 기준값을 적용했다. 개발 단계에서 평가한 결과와 실제 서비스 운영 환경의 판별 결과 사이에 발생할 수 있는 차이를 최소화하기 위한 조치다.

얼굴 특징 512차원 벡터로 분석…보호 인물 DB 갱신과 영상 탐지까지 지원

페이스 아이디 판별의 핵심은 이미지에 포함된 얼굴을 수치화해 등록된 인물 정보와 비교하는 기술이다. 시스템은 먼저 이미지에서 얼굴을 검출한 뒤 주요 특징점을 기준으로 얼굴의 위치와 방향을 정렬한다. 이후 얼굴의 특징을 512차원 특징 벡터로 변환해 보호 대상 인물 DB에 저장된 데이터와 비교한다. 특징 벡터는 얼굴의 시각적 특징을 여러 수치로 표현한 데이터로 얼굴 이미지 자체를 단순 비교하는 대신 특징 정보를 수치화해 두 얼굴 사이의 유사성을 판단하는 데 활용한다.

딥브레인AI는 초기 비교 결과를 추가로 재정렬하는 절차도 적용했다. 이를 통해 외모가 유사한 다른 사람을 동일 인물로 잘못 판단하는 오인식 가능성을 줄이도록 구성했다.

회사에 따르면 특정 인물 인식 성능은 국제공인시험기관의 시험에서 해당 과제의 기준을 충족했다. 다만 이번 자료에는 구체적인 정확도 수치나 시험 조건은 공개되지 않았다.

보호 대상 인물 DB를 구축하고 갱신하는 작업에도 자동화 기술을 적용했다. 관리자가 보호 대상 인물 목록을 입력하면 여러 검색 소스에서 관련 이미지를 수집하고, 신원 검증과 이미지 품질 검사를 거쳐 DB에 반영하는 방식이다. 이 과정에서 흐릿한 사진이나 동명이인의 이미지, 단체사진, 중복 이미지 등을 걸러내도록 설계했다. 보호 대상 인물과 관계없는 이미지가 DB에 포함되면 판별 정확도에 영향을 줄 수 있다는 점을 고려한 것이다.

DB 갱신 과정의 효율성도 개선했다. 이미 등록된 인물의 데이터를 반복적으로 처리하는 대신 새롭게 추가된 인물의 특징 벡터만 계산하도록 구성했다.

또한 판별 서버의 검색 인덱스를 서비스 중단 없이 교체할 수 있도록 설계해 보호 대상 인물 정보가 변경되더라도 운영을 지속할 수 있도록 했다.