“투표 말라” 바이든 사칭한 ‘가짜전화’ 벌금 82억원

딥페이크로 인한 유권자 혼란은 한국만의 일이 아니다. ‘전 세계 선거의 해’로 불린 지난해를 기점으로 인공지능(AI)이 생성한 정치적 영상·이미지·음성 출현이 폭증했다. 규제와 처벌 논쟁도 함께 뜨거워졌다.

지난해 1월 미국에서 벌어진 ‘바이든 가짜 전화’ 소동이 대표적이다. 민주당 뉴햄프셔주의 대선 예비경선 하루 전, 상당수 당원이 “11월 대선을 위해 표를 아끼라”는 조 바이든 당시 미 대통령의 목소리가 담긴 전화를 받았다. 목소리를 감쪽같이 복제한 딥페이크였고, 미 연방정부는 음성 제작자인 정치 컨설턴트 스티브 크레이머를 검찰에 넘기고 벌금 82억원을 부과했다.

2023년 일본에서는 기시다 후미오 당시 일본 총리의 가짜 연설 영상이 확산했다. 기시다 총리의 음성 데이터를 학습한 AI가 입력된 스크립트를 읽는 다소 조악한 방식이었지만, 총리가 성적으로 음란한 내용을 연설하는 착각을 일으켜 파장이 컸다. 영상 제작자는 “재미로 만들었다”며 해당 영상을 즉시 삭제하고 사죄했다. 기시다 총리는 이듬해 국제회의에서 “(AI로 생성한 딥페이크) 허위 정보 확산 방지는 모든 국가의 공통적인 도전 과제”라고 연설했다. 세계적으로 과거 인터뷰 영상의 정치적 메시지를 조작하는 방식은 흔하다고 한다.

유럽연합(EU)은 ‘디지털서비스법’을 통해 딥페이크를 제재하고 있다. 플랫폼 사업자가 불법·유해 콘텐트를 의무적으로 삭제하고 법적 책임까지 지도록 하는 방식이다. 하지만 대다수 국가에서 관련 입법은 기술 발전 속도에 못 미치고 있다. 미국은 연방의회에 ‘딥페이크 책임법안’ 등이 계류 중이지만, 현재로선 연방정부 차원의 구체적 기준이 없다.

심새롬.윤지원([email protected])