'눈으로 봐도 속는 세상'…딥페이크 대처법은 [탐사보도 뉴스프리즘]
- 7개월 전
'눈으로 봐도 속는 세상'…딥페이크 대처법은 [탐사보도 뉴스프리즘]
[오프닝: 이광빈 기자]
안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다.
이번주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.
[영상구성]
[이광빈 기자]
얼마 전에 저희 프로그램에서 '보이스 피싱'을 주제로 다루면서 딥페이크 기술을 이용한 영상 보이스피싱의 위험성도 경고했는데요. '딥페이크'는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어입니다. AI 기술을 이용해 만든 가짜 영상물을 의미하는데요, 영화에서는 흥미를 돋우는 유용한 기술로 쓰이기도 합니다.
그러나 '보이스 피싱' 뿐만 아니라 '가짜 정보' '가짜 뉴스' 등으로 악용돼 우리 생활에 더 깊숙이 파고들고 있습니다. 딥페이크가 소셜미디어를 통해 어떻게 악용되는 지, 법적으로 보이스피싱 '가짜 정보'를 어떻게 규제해야 하는지 살펴보겠습니다. 먼저 우리가 노출돼 있는 딥페이크 악용 실태를 한미희 기자가 짚었습니다.
[생활 속으로 파고든 딥페이크…가짜뉴스와 함께 범람 / 한미희 기자]
[기자] 영화 '아이리시맨'에서 70대 후반이었던 배우 로버트 드 니로와 알 파치노는 등장인물의 청장년 시절을 직접 연기했습니다.
노배우들의 자연스러운 젊은 모습을 만들어낸 건 AI 기술이었습니다.
"딥페이킹은 매우 쉽습니다. 딥페이크도 학습에 의존합니다. 다양한 각도와 조명, 상황의 얼굴 사진 1만장을 입력합니다. 더 많은 사진을 제공할수록 더 많은 정보를 소화해 더 나은 결과를 얻을 수 있습니다.
지난여름 할리우드 배우들은 작가들과 함께 60여년 만에 동반 파업을 벌였는데,
그 이유 중 하나는 AI 기술이 보편화하면서 자신의 외모와 목소리가 무단으로 사용되고 결국 생계에 실존적 위협이 될 것이라는 우려 때문이었습니다.
배우 톰 행크스는 최근 AI로 만들어진 자신의 이미지가 동의 없이 광고에 쓰였다며 주의를 당부하기도 했습니다.
소셜미디어를 통해 유포되는 딥페이크 대부분은 포르노물일 정도로 초창기부터 그 위험성을 드러냈습니다.
유명 여성 연예인이 주로 피해를 봤지만, 미성년자 등 일반인들도 쉽게 그 대상이 될 수 있습니다.
딥페이크는 전쟁 상황에서도, 정치권에서도 악용됐습니다.
러시아에 침공당한 우크라이나 대통령이 자국 군대에 항복을 촉구하는 영상은 그 수준이 조악해 금세 가짜인 것이 드러났지만,
미국 국방부 근처에서 대형 폭발이 발생했다는 가짜 뉴스와 함께 올라온 사진은 한동안 확산하며 잠시 주가가 출렁이기도 했습니다.
내년 미국 대선을 앞둔 상황에서 재선에 도전하는 전·현직 대통령들도 딥페이크의 희생양이 됐습니다.
도널드 트럼프 전 대통령이 성 추문으로 기소를 앞둔 상황에서 수갑을 찬 채 거칠게 연행되는 모습의 사진이 확산했고,
조 바이든 대통령의 목소리를 사용해 백악관 회견에서 혐오 발언을 하는 가짜 영상이 만들어지기도 했습니다.
"딥페이크는 AI가 생성한 오디오와 비디오를 사용해 평판을 훼손하고 가짜뉴스를 퍼뜨리며 사기를 저지릅니다. 내가 나오는 걸 본 적이 있는데, '내가 언제 이런 말을 했지?'라고 말했죠."
바이든 대통령은 이날 AI를 규제하는 내용의 행정 명령에 서명했습니다.
연합뉴스 한미희입니다.
#딥페이크 #가짜뉴스 #AI
[이광빈 기자]
딥페이크를 범죄에 악용하는 사례가 끊이지 않는 가운데, 딥페이크인지 아닌지 구별하는 기술도 함께 발전하고 있습니다. 이 탐지 기술로 딥페이크 범죄를 뿌리 뽑을 수 있을까요. 홍서현 기자가 알아봤습니다.
[딥페이크 탐지기술 수준은…"법제도 보완 필요" / 홍서현 기자]
[기자] 고도의 조작된 딥페이크 영상을 만들어내는 인공지능.
영상이 변조됐는지도 인공지능으로 알아낼 수 있습니다.
"딥페이크 영상의 허점을 어떻게 찾아내는 건지, 직접 살펴보겠습니다."
영상 파일과 분야를 선택하면 분석이 시작됩니다.
100%에 가까울수록 변조가 많이 된 건데, 50% 이상이면 조작된 영상으로 판단합니다.
불법 영상물을 이용한 각종 범죄에 대응하는 데 활용할 수 있습니다.
"가짜뉴스, 딥페이크 영상이 많이 나오고 있는데 이걸 실제적으로 탐지할 수 있는 솔루션은 없다보니까 이런 부분에 많이 활용할 수 있다고 보고 있고요."
해외에서도 딥페이크 탐지 기술 개발이 활발합니다.
글로벌 딥페이크 탐지 시장은 지난해 5억 달러에서 2027년 18억 달러로 성장할 전망입니다.
인텔은 지난해 가짜 동영상을 탐지하는 페이크 캐쳐 기술을 개발했습니다.
인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가리는데, 정확도는 96%에 달합니다.
구글 딥마인드도 인공지능만 파악할 수 있는 흔적을 남겨 생성된 이미지를 식별하는 신스ID 기술을 개발했습니다.
하지만 탐지 기술만으로 딥페이크를 완전히 없애는 건 어렵다는 지적이 나옵니다.
"창과 방패 싸움처럼 계속 탐지기술을 또 회피하는 기술을 만들 수가 있어요, 탐지를 못하도록."
기술의 한계를 극복하기 위해 해외 각국에서 규제를 내놓고 있습니다.
내년 대선을 앞둔 미국은 딥페이크 이미지를 이용한 가짜뉴스의 규제를 검토하고 있습니다.
유럽연합 의회도 지난 6월 무분별한 인공지능 사용을 규제하는 법안을 통과시켰습니다.
전문가들은 인공지능의 역기능에 대한 경각심이 필요하다고 강조합니다.
"다른 사람에게 피해를 줄 수 있다는 사고방식과 인식 자체를 많이 심어줄 수 있는 게 중요하고. 그것에 대한 강력한 처벌이나…"
딥페이크 탐지 기술과 더불어 관련 법제도의 보완도 필요하다는 지적입니다.
연합뉴스TV 홍서현입니다.
#인공지능 #딥페이크 #범죄 #탐지기술
[코너 : 이광빈 기자]
딥페이크에 대한 악용 사례들이 도드라져 보인 탓에 딥페이크의 장점이 묻히기도 합니다.
'...
[오프닝: 이광빈 기자]
안녕하십니까. 이광빈입니다. 우리 사회의 문제점들을 진단하고, 지속가능한 사회를 모색하는 뉴스프리즘 시작합니다.
이번주 뉴스프리즘이 풀어갈 이슈, 함께 보시겠습니다.
[영상구성]
[이광빈 기자]
얼마 전에 저희 프로그램에서 '보이스 피싱'을 주제로 다루면서 딥페이크 기술을 이용한 영상 보이스피싱의 위험성도 경고했는데요. '딥페이크'는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어입니다. AI 기술을 이용해 만든 가짜 영상물을 의미하는데요, 영화에서는 흥미를 돋우는 유용한 기술로 쓰이기도 합니다.
그러나 '보이스 피싱' 뿐만 아니라 '가짜 정보' '가짜 뉴스' 등으로 악용돼 우리 생활에 더 깊숙이 파고들고 있습니다. 딥페이크가 소셜미디어를 통해 어떻게 악용되는 지, 법적으로 보이스피싱 '가짜 정보'를 어떻게 규제해야 하는지 살펴보겠습니다. 먼저 우리가 노출돼 있는 딥페이크 악용 실태를 한미희 기자가 짚었습니다.
[생활 속으로 파고든 딥페이크…가짜뉴스와 함께 범람 / 한미희 기자]
[기자] 영화 '아이리시맨'에서 70대 후반이었던 배우 로버트 드 니로와 알 파치노는 등장인물의 청장년 시절을 직접 연기했습니다.
노배우들의 자연스러운 젊은 모습을 만들어낸 건 AI 기술이었습니다.
"딥페이킹은 매우 쉽습니다. 딥페이크도 학습에 의존합니다. 다양한 각도와 조명, 상황의 얼굴 사진 1만장을 입력합니다. 더 많은 사진을 제공할수록 더 많은 정보를 소화해 더 나은 결과를 얻을 수 있습니다.
지난여름 할리우드 배우들은 작가들과 함께 60여년 만에 동반 파업을 벌였는데,
그 이유 중 하나는 AI 기술이 보편화하면서 자신의 외모와 목소리가 무단으로 사용되고 결국 생계에 실존적 위협이 될 것이라는 우려 때문이었습니다.
배우 톰 행크스는 최근 AI로 만들어진 자신의 이미지가 동의 없이 광고에 쓰였다며 주의를 당부하기도 했습니다.
소셜미디어를 통해 유포되는 딥페이크 대부분은 포르노물일 정도로 초창기부터 그 위험성을 드러냈습니다.
유명 여성 연예인이 주로 피해를 봤지만, 미성년자 등 일반인들도 쉽게 그 대상이 될 수 있습니다.
딥페이크는 전쟁 상황에서도, 정치권에서도 악용됐습니다.
러시아에 침공당한 우크라이나 대통령이 자국 군대에 항복을 촉구하는 영상은 그 수준이 조악해 금세 가짜인 것이 드러났지만,
미국 국방부 근처에서 대형 폭발이 발생했다는 가짜 뉴스와 함께 올라온 사진은 한동안 확산하며 잠시 주가가 출렁이기도 했습니다.
내년 미국 대선을 앞둔 상황에서 재선에 도전하는 전·현직 대통령들도 딥페이크의 희생양이 됐습니다.
도널드 트럼프 전 대통령이 성 추문으로 기소를 앞둔 상황에서 수갑을 찬 채 거칠게 연행되는 모습의 사진이 확산했고,
조 바이든 대통령의 목소리를 사용해 백악관 회견에서 혐오 발언을 하는 가짜 영상이 만들어지기도 했습니다.
"딥페이크는 AI가 생성한 오디오와 비디오를 사용해 평판을 훼손하고 가짜뉴스를 퍼뜨리며 사기를 저지릅니다. 내가 나오는 걸 본 적이 있는데, '내가 언제 이런 말을 했지?'라고 말했죠."
바이든 대통령은 이날 AI를 규제하는 내용의 행정 명령에 서명했습니다.
연합뉴스 한미희입니다.
#딥페이크 #가짜뉴스 #AI
[이광빈 기자]
딥페이크를 범죄에 악용하는 사례가 끊이지 않는 가운데, 딥페이크인지 아닌지 구별하는 기술도 함께 발전하고 있습니다. 이 탐지 기술로 딥페이크 범죄를 뿌리 뽑을 수 있을까요. 홍서현 기자가 알아봤습니다.
[딥페이크 탐지기술 수준은…"법제도 보완 필요" / 홍서현 기자]
[기자] 고도의 조작된 딥페이크 영상을 만들어내는 인공지능.
영상이 변조됐는지도 인공지능으로 알아낼 수 있습니다.
"딥페이크 영상의 허점을 어떻게 찾아내는 건지, 직접 살펴보겠습니다."
영상 파일과 분야를 선택하면 분석이 시작됩니다.
100%에 가까울수록 변조가 많이 된 건데, 50% 이상이면 조작된 영상으로 판단합니다.
불법 영상물을 이용한 각종 범죄에 대응하는 데 활용할 수 있습니다.
"가짜뉴스, 딥페이크 영상이 많이 나오고 있는데 이걸 실제적으로 탐지할 수 있는 솔루션은 없다보니까 이런 부분에 많이 활용할 수 있다고 보고 있고요."
해외에서도 딥페이크 탐지 기술 개발이 활발합니다.
글로벌 딥페이크 탐지 시장은 지난해 5억 달러에서 2027년 18억 달러로 성장할 전망입니다.
인텔은 지난해 가짜 동영상을 탐지하는 페이크 캐쳐 기술을 개발했습니다.
인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가리는데, 정확도는 96%에 달합니다.
구글 딥마인드도 인공지능만 파악할 수 있는 흔적을 남겨 생성된 이미지를 식별하는 신스ID 기술을 개발했습니다.
하지만 탐지 기술만으로 딥페이크를 완전히 없애는 건 어렵다는 지적이 나옵니다.
"창과 방패 싸움처럼 계속 탐지기술을 또 회피하는 기술을 만들 수가 있어요, 탐지를 못하도록."
기술의 한계를 극복하기 위해 해외 각국에서 규제를 내놓고 있습니다.
내년 대선을 앞둔 미국은 딥페이크 이미지를 이용한 가짜뉴스의 규제를 검토하고 있습니다.
유럽연합 의회도 지난 6월 무분별한 인공지능 사용을 규제하는 법안을 통과시켰습니다.
전문가들은 인공지능의 역기능에 대한 경각심이 필요하다고 강조합니다.
"다른 사람에게 피해를 줄 수 있다는 사고방식과 인식 자체를 많이 심어줄 수 있는 게 중요하고. 그것에 대한 강력한 처벌이나…"
딥페이크 탐지 기술과 더불어 관련 법제도의 보완도 필요하다는 지적입니다.
연합뉴스TV 홍서현입니다.
#인공지능 #딥페이크 #범죄 #탐지기술
[코너 : 이광빈 기자]
딥페이크에 대한 악용 사례들이 도드라져 보인 탓에 딥페이크의 장점이 묻히기도 합니다.
'...