화상회의 화면 속 상대가 진짜 사람인지 AI가 만든 딥페이크인지 더는 눈으로 구별할 수 없는 시대가 코앞으로 다가왔다는 경고가 나왔다. 인간 증명(Proof of Human) 네트워크 월드(World)의 기술을 개발하는 툴스 포 휴머니티(Tools for Humanity) 공동창업자 겸 최고경영자(CEO) 알렉스 블라니아(Alex Blania)의 발언이다.

블라니아 CEO는 지난 11월 5일 공개된 판테라캐피털(Pantera Capital)의 팟캐스트 '스테이트풀(Stateful)'에 출연해 "앞으로 3개월, 길면 6개월 안에 화상으로 대화하는 상대가 딥페이크인지 전혀 구별할 수 없게 될 것"이라고 전망했다. 그는 이 경고가 먼 미래 이야기가 아니라고 강조했다. 블라니아 CEO 자신도 회사 수석 이코노미스트를 사칭한 딥페이크에 속은 경험이 있다고 털어놓았는데, 당시 15분 동안이나 가짜인 줄 몰랐다는 것이다. 

판테라캐피털은 2013년 미국 최초의 암호화폐 펀드를 출범시킨 블록체인·디지털자산 전문 투자사로, 월드에도 투자하고 있다. '스테이트풀'은 창업자와 투자자를 초청해 차세대 금융과 웹 인프라를 다루는 팟캐스트다. 이번 대담은 딥페이크라는 기술적 위협에 그치지 않고, 금융기관과 플랫폼, 광고주가 왜 '실제 사람'을 확인하는 기술에 지갑을 열려 하는지 사업적 관점에서도 짚었다.

탐지 AI로는 한계…”가짜를 찾지 말고 진짜를 증명하라"

블라니아 CEO는 최근 초당 60프레임으로 실시간 영상을 만들어내는 생성형 AI 모델이 공개된 점을 근거로, 탐지 AI를 비롯해 소프트웨어만으로 딥페이크를 걸러내는 방식은 곧 통하지 않게 될 것으로 내다봤다. AI가 사람을 정교하게 모방할수록, 실제 사람임을 확인하는 '인간 증명'이 온라인 소통과 거래를 떠받치는 기반 인프라가 될 것이라는 설명이다.

업계 분석도 같은 방향을 가리킨다. 지금까지 보안 시장은 AI가 만든 이상 징후를 AI 탐지 도구로 잡아내는 사후 대응 방식에 의존해 왔지만, 생성 모델이 빠르게 발전하면서 탐지 소프트웨어가 따라잡기 어려운 상황이라는 지적이다.

딥페이크 피해는 이미 현실이다. 2024년 초 글로벌 엔지니어링 기업 아럽(Arup)은 직원이 화상회의 속 딥페이크 사칭범에게 속으면서 2,500만 달러를 잃었고, 2025년 1분기에만 기업들의 딥페이크 사기 피해액이 2억 달러를 넘었다. 암호화폐 업계 역시 가짜 경영진이 등장하는 화상회의 사기의 주요 표적이 되고 있다. 

줌(Zoom)에 들어간 월드ID…대형 은행들 "우리도 쓰겠다"

블라니아 CEO가 내놓은 해법은 딥페이크를 가려내는 대신, 대화 상대가 사전에 인증된 실제 사람인지 확인하는 방식이다. 툴스 포 휴머니티는 줌과 함께 화상회의용 인간 증명 기능 '월드ID 딥페이스(World ID Deep Face)'를 개발했다.

작동 원리는 3단계 대조다. 화상회의의 실시간 영상, 홍채 인식 기기 오브(Orb)로 인증할 때 확보한 이미지, 휴대전화로 다시 인증한 정보를 맞춰 보고 동일인인지 확인한다. 인증이 끝나면 참가자의 영상 화면과 프로필에 '인증된 인간(Verified Human)' 배지가 표시된다. 회의 주최자는 입장 전에 인증을 요구하는 '딥페이스 대기실'을 켤 수 있고, 회의 도중 다른 참가자에게 즉석 인증을 요청할 수도 있다. 

개인정보 보호도 핵심 설계 요소다. 줌은 인증이 기기 안에서 이뤄지며, 개인 생체 정보가 줌이나 다른 회의 참가자에게 공유되지 않는다고 설명했다. 재인증 주기는 기업이 요구하는 보안 수준에 따라 달리 정할 수 있다.

관심이 가장 뜨거운 곳은 금융권이다. 블라니아 CEO는 "최근 특히 금융기관들의 문의가 많고, 줌도 대형 은행들이 이 기술을 쓸 수 있도록 우리와 직접 협력하고 있다"며 “3개월 전만 해도 전혀 예상하지 못한 수준의 관심”이라고 말했다. 대규모 송금 승인이나 인수합병 결정처럼 한 번의 사칭이 막대한 손실로 이어지는 업무에서 '진짜 사람 확인'이 새로운 보안 표준으로 떠오르고 있다는 의미다. 툴스 포 휴머니티는 줌 외에도 도큐사인(DocuSign), 쇼피파이(Shopify), 옥타(Okta), 반에크(VanEck) 등과 월드ID 연동을 추진하고 있다.

AI 에이전트는 누구를 대신해 움직이는가

블라니아 CEO는 AI 에이전트 확산이 인간 증명 수요를 키우는 또 하나의 축이라고 진단했다. 그는 클라우드플레어(Cloudflare) 트래픽의 50% 이상이 이미 에이전트에서 발생하고 있으며, 웹사이트들이 빗장을 걸어 잠그고 있다고 짚었다. 

문제는 악용이다. 한 사람이 에이전트 수십 개를 보내 인기 식당 예약이나 콘서트 티켓을 싹쓸이한 뒤 되파는 일이 벌어질 수 있다. 실제 이용자를 구분하지 못하면 서비스 업체와 소비자 모두 피해를 본다.

반대로 에이전트가 고유한 실제 사람 한 명을 대신한다는 사실을 확인할 수 있다면 상황은 달라진다. 플랫폼은 사람마다 예약·구매 한도를 정해 두고 에이전트 접근을 안심하고 허용할 수 있다. 블라니아 CEO는 "에이전트가 실제 사람을 대신해 움직인다는 것을 알면 웹사이트는 완전히 다르게 대응할 수 있다"며, 월드ID가 에이전트 거래의 신뢰 기반이 될 수 있다고 강조했다.

광고 시장도 움직인다…”진짜 사람이 봤다면 더 낸다"

블라니아 CEO는 온라인에서 보는 것을 기본적으로 믿던 환경이 진짜임을 증명해야 믿을 수 있는 환경으로 빠르게 바뀌고 있다고 진단했다. 이 변화를 앞당길 주체로는 광고주를 꼽았다.

그는 "세계 최대 광고주 중 한 곳이 '광고 노출이 실제 사람에게 이뤄졌다는 것을 알 수 있다면 더 많은 비용을 지불하겠다'고 말했다"고 전했다. 봇 트래픽과 허수 노출에 시달려 온 디지털 광고 업계에서 '인간 인증 노출'은 프리미엄 상품이 될 수 있다. 광고가 실제 사람에게 닿았는지 확인하려는 수요가 플랫폼의 인간 증명 도입을 앞당길 것이라는 전망이다.

[기자의 시선] 신뢰가 곧 인프라가 되는 시대

블라니아 CEO의 메시지는 분명하다. 생성형 AI가 사람의 얼굴과 목소리를 완벽하게 흉내 내는 시대에 디지털 신뢰는 저절로 주어지지 않고, 기술로 증명해야 하는 인프라가 된다. 화상회의 보안, AI 에이전트 거래, 디지털 광고는 서로 다른 시장처럼 보이지만 '이 상대가 진짜 사람인가'라는 같은 질문을 던지고 있다.

물론 과제도 남아 있다. 월드ID 보급은 여전히 오브 기기를 직접 찾아가 인증해야 한다는 점에 달려 있어, 기업 도입은 재무팀이나 경영진처럼 소수의 고신뢰 이용자 집단부터 시작될 가능성이 크다는 분석이다. 생체 정보 활용을 둘러싼 사회적 합의 역시 앞으로 계속 지켜봐야 할 부분이다. 그럼에도 블록체인 기반 신원 인증이 AI 시대의 핵심 인프라로 자리 잡을 수 있을지, 업계의 관심이 쏠리고 있다. 



출처: https://blockchaintoday.co.kr/news/articleView.html?idxno=66710