[뉴스포커스] 美대선, 커지는 AI 위협…한국, 딥페이크 선거운동 금지


지난 주말 미국의 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 사진이 퍼지면서 미국 사회에 파문이 일었습니다.

바이든 대통령의 가짜음성이 확산하는 등 대선 국면에서도 인공지능이 생성한 딥페이크가 확산하면서 규제가 필요하다는 목소리가 커지고 있는데요.

총선을 앞두고 우리 선관위도 딥페이크 영상을 이용한 선거운동을 금지하고 이번 주부터 관련 단속에 나섰습니다.

얼굴뿐 아니라 음성을 모방하며 각종 범죄에 활용되고 있는 딥페이크의 문제점과 규제 필요성에 대해 강정수 미디어스피어 AI 연구센터장과 함께 이야기 나눠보겠습니다.

어서 오세요.

지난 주말, 소셜미디어 엑스를 중심으로 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 사진이 퍼지며 논란이 됐는데요. 합성을 한 것을 딥페이크라고 하는 건가요? 딥페이크에 대한 정확한 뜻이 무엇인지부터 짚어주시죠.

일각에서는 테일러 스위프트 딥페이크가 특별한 앱이나 프로그램이 아닌 컴퓨터에 있는 AI 생성도구를 통해 제작됐다는 주장도 있던데요. 딥페이크를 만드는 게 그렇게 어렵지가 않다고 하더라고요. 딥페이크가 얼마나 쉽게 작업할 수 있는 건가요?

또 하나 궁금한 것이 과거에도 포토샵을 이용해 합성 사진을 만드는 것이 가능했는데요. 포토샵과 딥페이크는 어떤 차이가 있는 건가요?

얼마 전 뉴햄프셔주 미 공화당 경선에서는 AI로 만든 조 바이든 대통령의 가짜 전화 목소리가 투표 거부를 독려하는 선거운동이 논란이 됐는데요. 딥페이크 음성은 딥페이크 영상보다 속아 넘어가기가 더 쉬운데, 딥페이크 작업하는 것도 훨씬 쉬운가요?

바이든 대통령에 이어 국민가수 테일러 스위프트까지 피해를 입다보니 백악관이 AI 규제 입법을 주문했다고 하는데요. 미국은 주마다 법도 다 다른데, 그동안 딥페이크에 대한 미국 내 규제 방안은 없었나요?

워터마크가 부착되어 있다 하더라도 각종 딥페이크 피해를 예방하기 어렵다고 하던데, AI 기술이 고도화돼서 딥페이크 기술이 나왔잖아요. 딥페이크를 탐지하고 걸러내는 것 역시 AI 기술로 막을 수 있는 건가요?

테일러 스위프트의 딥페이크 사진이 소셜미디어에 올라온 지 약 17시간 만에 조회수가 4,700만 회를 넘었다고 하는데요. 소셜미디어 특성상 스위프트처럼 인기 연예인의 경우 게시물이 순식간에 퍼져나가는데, 소셜미디어에서의 딥페이크 규제는 좀 더 엄격해야 하지 않을까요?

우리나라는 어떻습니까? AI 딥페이크 기술로 음란물을 제작할 경우 처벌이 가능한가요?

음란물이든 가짜뉴스든 딥페이크를 사용해 영상물을 제작하는 사람이나 업체를 애초에 제한하는 방식으로 아예 딥페이크에 대한 피해를 줄일 수는 없는 건가요?

지난 대선 당시 윤석열 이재명 후보가 AI를 이용해 선거운동 했었던 거 기억나시는 분들 계실 텐데요. 화면 한번 보고 오시죠.

사진이나 영상을 합성하는 딥페이크 이외에 댓글을 달아주는 AI 프로그램 같은 것도 있지 않습니까? 이것도 여론을 조작할 수 있는 가능성이 매우 높은데, 이에 대한 규제는 아직 없나요?

사실 딥페이크 기술 자체가 문제가 되는 것이 아니라 딥페이크를 이용해 가짜뉴스를 만들어 내는 것이 문제가 아닐까 싶은데요. 올해는 미국과 우리나라뿐 아니라 전 세계 많은 나라에서 굵직한 선거들이 많습니다. 실제로 딥페이크 가짜뉴스가 선거에 얼마만큼의 영향을 주게 되나요? 실제로 표심에 영향을 미친 사례가 있나요?

현재 딥페이크와 관련해 가장 강력한 규제를 시행하고 있는 나라가 있습니까?

선관위가 특별 전담반을 꾸리고 유관 기관들의 협조를 구해 딥페이크 예방과 단속 활동을 벌이겠다고 했는데요. 어떤 활동을 하게 되는 건가요?

사실 딥페이크 기술이 부정적인 기능만 있는 건 아닐 거 같은데요. 우리가 딥페이크 기술의 순기능을 살리고 우리 생활 속에서 유용하게 사용하기 위해서는 어떤 것들이 필요할지, 우리는 어떤 자세를 가져야 할까요?

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)