“AI 딥페이크 사용 자제”…바이낸스 설립자 창평 자오의 경고, 그가 두려워한 것은?

캡션: 프리픽스(Freepix)

암호화폐 거래소 바이낸스의 CEO 창펑 자오(CZ)가 암호화폐 시장을 위협하는 딥페이크 인공지능 기술 관련해서 우려를 제기했다.

헤이젠(HeyGen)의 CEO, 조슈아 슈(Joshua Xu)가 등장하는 한 인공지능 영상을 언급하며 딥페이크 기술을 활용한 이러한 영상은 “매우 무서운 결과를 초래한다”고 말했다

창평 자오는 “검증된 동영상만 믿을 것이고, 딥페이크 영상을 사용하지 마라,” 라고 경고했다.

최근 슈는 트위터에서 자신을 닮은 아바타와 자신의 목소리를 100% 모방한 인공지능의 영상을 올렸다. 그는 “우리의 독특한 억양 또는 말투, 패턴을 모두 가상의 아바타 인물에게 학습시켜 인공지능에 기반한 영상을 만들었다. 또한 완벽한 아바타를 만들기 위해 비디오 품질을 크게 향상했고 우리의 생활 패턴을 모방하기 위한 많은 연구를 해 왔다”라고 언급했다.

헤이젠 CEO는 자신의 딥페이크 기능을 대중이 사용할 수 있도록 빠르게 제작할 계획이라고 하며, 앞으로 “2분”이면 우리를 완벽하게 닮은 아바타를 생성할 수 있을 것이라고 밝혔다.  

하지만 바이낸스 웹사이트에 따르면, 현재 바이낸스 거래소에서 자금을 인출하기 위해서 사용자는 신원을 확인하기 위한 비디오를 제출해야 한다. KYC(Know-your-customer) 절차는 사용자의 신분증 또는 여권 사진과 함께 비디오 확인을 의무화한 검증 절차이다.

바이낸스는 신원 확인을 위해 비디오에 워터마크 또는 자체 편집을 못 하게 막고 있다.  

하지만 바이낸스의 최고 보안 책임자인 지미 수(Jimmy Su)는 5월부터 AI 기술이 매우 “발전”되고 있고, 딥 페이크의 기술 때문에 바이낸스의 신원 검증이 불가능해질 수 있다고 말했다.

암호화폐와 딥페이크 기술의 동기화

암호화폐 관련 인공지능 프로젝트인 딥페이크AI는 테슬라와 트위터의 최고경영자 일론 머스크, SEC의 의장 게리 겐슬러, 이더리움의 공동창업자 비탈릭 부테린의 딥페이크 영상을 만들어 많은 인기를 끌었다.

딥페이크AI 플랫폼은 사용자가 딥페이크 기술을 활용해 맞춤 동영상을 제작할 수 있게 하고, 네이티브 봇을 통해 플랫폼의 다양한 서비스를 이용할 수 있게 했다.

딥페이크AI 플랫폼은 페이크AI라는 네이티브 암호화폐를 만들었고, 이를 통해 플랫폼에서 다양한 패키지를 무료로 사용할 수 있게 했다. 코인게코 데이터에 따르면, 페이크AI는 토큰당 0.00028227달러에 거래되고 있다.

비록 기술적인 면에서 딥페이크AI 플랫폼은 유망하고 수익성이 높은 암호화폐이지만, 많은 인플루언서, 사용자 또는 투자자들은 이러한 기술로 생길 수 있는 문제에 대해 우려를 제기했다.

함께 읽을 만한 기사: