캘리포니아주, '딥페이크’ 행위 불법화… 법 시행 난항 예상
상태바
캘리포니아주, '딥페이크’ 행위 불법화… 법 시행 난항 예상
  • 양태경 기자
  • 승인 2019.10.09 11:33
  • 댓글 0
이 기사를 공유합니다

캘리포니아주 주지사, 정치인 관련 ‘딥페이크’ 금지 AB 730 법안 서명
실효성 논란도 제기… 저작권 통한 ‘딥페이크’ 응대 더 용이할 수도
AB 602 법안에도 서명… 노골적 성적 콘텐츠 악용 시 소송 제기 가능
©AI타임스
©AI타임스

(AI타임스=양태경 기자) 캘리포니아주는 잘못된 정보로부터 유권자들을 보호하기 위한 조치로 ‘딥페이크’를 만들거나 배포하는 행위를 불법으로 규정했지만, 시행하기 어려울 수도 있어 보인다고 가디언이 지난 7일(현지시간) 전했다.

지난주 목요일 개빈 뉴섬(Gavin Newsom) 캘리포니아주 주지사는 선거기간 60일 이내에 마치 진짜인양 조작 또는 변조한 정치인 관련 동영상, 이미지 또는 오디오를 제작하거나 배포하는 행위를 불법으로 규정하는 AB 730 법안에 서명했다.

‘딥페이크’(deepfake)란, 인공지능(AI)이 축적된 자료를 바탕으로 스스로 학습하는 기술을 뜻하는 ‘딥러닝’(deep learning)과 위·변조를 뜻하는 ‘페이크’ (fake)의 합성어로 인공지능(AI)을 사용해 동영상, 이미지 또는 오디오를 합성 또는 조작하는 기술을 말한다.

가령, 시청자들이 허위를 진짜라고 믿게 만들기 위해 다른 사람의 얼굴에 연예인 얼굴 이미지를 덧씌우기 하는 등의 조작된 영상이 일례가 될 수 있다. 또한 올해 초 낸시 펠로시(Nancy Pelosi) 미 하원의장이 술에 취해 연설이 끊긴 것처럼 보이게 조작한 동영상이 유포되면서 ‘딥페이크’ 저작물들에 대한 우려를 증폭시킨 바 있다.

주요 소셜 미디어 사이트들은 오보(誤報) 캠페인의 고삐를 죄기 위해 애썼고, 마크 저커버그 페이스북 최고경영자는 지난 6월 페이스북 시스템이 ‘딥페이크’ 비디오를 탐지하고 삭제하는 데 너무 느렸다고 인정하기도 해 ‘딥페이크’ 저작물들의 위해성 우려에 사람들은 다시금 촉각을 곤두세우고 있다.

이에 캘리포니아주의 마크 버먼(Marc Berman) 주의회 의원은 이런 허위 내용이 어떻게 유권자들을 현혹시킬 수 있는지에 대한 우려가 커지고 있는 가운데 2020년 선거를 앞두고 AB 730 법안을 도입하게 됐다고 도입 배경을 설명했다.

버먼 의원은 성명에서 "’딥페이크’는 이미 초당파적인 유권자들 사이에 잘못된 정보와 다툼을 조장하기 위해 무기화 될 수 있는 강력하면서도 위협적인 신기술"이라면서 "’딥페이크’는 진실을 왜곡해 허구와 환상을 실제 사건과 행동으로 착각하게 만드는 심각한 도전임에 틀림이 없다"고 ’딥페이크’의 위해성을 경고했다.

하지만 허바드 언론대학원 미디어 윤리 및 법률학 교수인 제인 커틀리는 “정치 연설이 방송에서 보다 인쇄매체와 온라인에서 더 많은 보호를 받고 있기 때문에 이번에 도입된 ‘딥페이크’ 법은 실효성 면에서 많은 논란이 있을 것”이라며 “언론의 자유 보장 측면에서 새로 도입된 법을 통해서보다는 저작권을 통해 ‘딥페이크’ 비디오에 응대하는 것이 더 용이할 수 있다”고 지적한다.

이어 커틀리 교수는 "정치 연설은 미국 법에 따라 가장 높은 수준의 보호를 받고 있다"면서 "선거를 앞두고 기만적인 내용으로부터 유권자들을 보호하려는 의욕이 넘치는 것은 충분히 이해하지만, 주의회가 이 법을 실행에 옮길 수 있을지에 대해서는 솔직히 회의적이다"라고 말해 그 실효성에 의문을 제기한 것으로 풀이된다.

지난주 목요일 뉴섬 주지사는 AB 602 법안에도 서명했다. 해당 법안은 캘리포니아주 주민들이 그들의 사진이나 영상이 성적으로 노골적인 콘텐츠에 악용될 경우 소송을 제기할 수 있도록 하는 법안이다. 이 법안은 피해자들이 승소할 경우, 금지명령구제를 신청할 수 있고 변호사 수임료 및 비용을 회수할 수 있도록 하는 안을 담고 있다.

한편, 사이버보안업체 딥트레이스의 조사에 따르면 온라인에 게시된 ‘딥페이크’의 96%가 성적으로 노골적인 콘텐츠인 것으로 나타났으며 이 중 99%가 연예계에 종사하는 여성인 것으로 나타났다. 영화, TV 및 기타 미디어 전문가들을 대표하는 노동조합인 ‘스크린 배우 조합’(Screen Actors Guild)은 뉴섬 주지사의 이번 법안 서명을 반겼다.

가브리엘 카터리스 노조 위원장은 데드라인과의 인터뷰에서 "우리는 뉴섬 주지사가 AB 602 에 서명함으로써 대부분 여성이며 피해사실을 좀처럼 드러 내기를 꺼리는 포르노 산업 종사 피해자들 편에 서 줬다는 사실에 매우 기쁘다"며 흥분을 감추지 못했다.

이렇듯 이번에 캘리포니아주에 새롭게 도입된 ‘딥페이크’ 법안은 실효성 논란에 상관없이 지금도 어디선가 양산되고 있을지 모를 무고한 피해자들을 위해서라도 그리고 매스미디어를 통해 유포되는 정보에 대한 정보불신을 불식시키기 위해서라도 꼭 필요해 보인다.

양태경 기자
양태경 기자 외신기자/텍사스주립대학교 박사 다른기사 보기

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사