맥아피(McAfee)는 토토 랜드딥페이크 오디오를 90%의 정확도로 탐지할 수 있다고 주장하는 프로젝트 모킹버드(Project Mockingbird)를 공개했다.
CES 2024에서 공개된 이 혁신적인 기술은 사기를 저지르고 대중의 인식을 조작하기 위해 토토 랜드가 생성한 조작된 오디오를 사용하는 사이버 범죄자로부터 소비자를 보호하는 것을 목표로 한다.
모킹버드는 소셜미디어에서 딥페이크 오디오 사기를 탐지하도록 설계되었다. 모킹버드프로젝트는 토토 랜드가 가짜뉴스를 게시물에 삽입하기 위해 사람의 목소리를 변조했는지 90%의 확률로 판별할 수 있다. (참고: 90% 확률로 판별할 수 있다니 놀랍네요.)
딥페이크 예시: 토토 랜드 음성 복제 사기를 위협으로 식별하는 맥아피 모킹버드
위 동영상과 같은 사기의 경우, 사기범은 유명 뉴스 캐스터가 등장하는 동영상으로 시작한다. 이어서가짜 자료를 사용하여 캐스터가 실제한 적이 없는 말을 하도록 한다. 이것이 바로 오디오와 비디오가 모두 포함된 딥페이크라고 맥아피의 CTO인 스티브 그로브먼(Steve Grobman)은 벤처비트(VentureBeat)와인터뷰에서 말했다.
그는"선거가 다가옴에 따라 합법적인 정치 캠페인 콘텐츠 생성뿐만 아니라 다양한 형태의 허위 정보에 생성토토 랜드가 사용될 것으로 예상된다."고 우려했다.
이 기술은 선거에 영향을 미치는 딥페이크 동영상과의 전쟁에서 중요한 역할을 할 수 있으며음성 복제 사기로부터 사용자를 보호하는데 도움이 될 것으로 보인다.
2024년 전 세계에서 벌어질 선거와 대한민국에서 4월에 있을 총선에도 생성토토 랜드를 활용한 선거 홍보 사진(=이미지), 음성(=오디오), 영상(=비디오) 자료들에 대한 이슈들이 많이 등장할 것으로 예상된다. 유권자들의 주목을 끄는 효과도 충분히 있을텐데 가짜뉴스 생성에도 많이 활용될 것으로 보여 우려도 함께 예상된다.