(G-VIEW)

AI를 활용한 디지털 성범죄가 급증하고 있습니다.

최근에는 딥페이크 관련 범죄들이 뉴스에 등장하고 있는데요.

오늘은 이 이슈를 주제로 서울여자대학교 정보보호학부 김명주 교수님(국제인공지능윤리협회장)과 이야기 나눠보겠습니다.

안녕하세요 교수님 자기소개 부탁드립니다.

(김명주 교수)

안녕하세요. 저는 서울여자대학교 정보보호학부에 있는 김명주 교수입니다.

최근에는 AI 보안 그리고 AI 윤리 쪽으로 많이 연구하고 있고 활동도 하고 있습니다.

(G-VIEW)

최근 딥페이크 성범죄 관련 보도가 많습니다. 딥페이크의 정확한 의미가 무엇인가요?

(김명주 교수)

가짜 성착취물을 만드는 기술들을 통칭해서 딥페이크(DEEPFAKE)라고 이야기합니다. 

원래 딥페이크라는 말이 2017년도에 나왔는데 딥러닝이라는 인공지능에서 쓰는 기법 중의 하나인데 딥러닝하고 그다음에 가짜라는 뜻의 페이크가 합성된 거예요.

그래서 원래 정식 명칭은 얼굴 바꿔치기(Face Swap)입니다.

(G-VIEW)

AI를 활용한 디지털 성범죄에는 어떤 것들이 포함되어 있을까요?

(김명주 교수)

실제로 찍거나 촬영하지 않았는데 성착취물을 만들어내는 범죄를 디지털성범죄라고 하고요. 

피해자들이 전혀 모르는 상태에서 갑자기 터지는 경우들이 상당히 많이 있는 게 특징 중의 하나라고 볼 수 있습니다.

(G-VIEW)

딥페이크 성범죄의 변화 양상이 유명인 정치인을 넘어 일반인이나 학생으로 영역이 넓어지고 

아동·청소년 피해자 연령도 낮아지고 있다는 통계가 있는데요. 이유가 뭘까요?

(김명주 교수)

유명인들의 사진을 쉽게 구할 수 있었고, 과거에는 주로 유명한 정치인들 그다음에 연예인들 중심이었던 것 같아요. 

최근에는 일반인들도 사진이나 영상들을 많이 올릴뿐더러, 요즘에는 ‘지인 능욕’이라고 해서 

그 아이에 관한 딥페이크 영상들을 만들어서 사진을 만들어서 유포하는 것으로 바뀌었습니다. 

그런 면에서는 딥페이크라든지 디지털성범죄 피해자 대상이 많이 넓어졌고 연령이 낮아졌고 그렇게 볼 수 있을 것 같아요.

(G-VIEW)

온라인상에서 딥페이크 음란물을 만들어주는 웹사이트를 쉽게 접할 수 있는데요

왜 이렇게 많아지는 걸까요? 대책은 없을까요?

(김명주 교수)

영국의 ‘채널 4’라는 티비 채널에서 조사를 해봤는데 2016년도에는 AI 딥페이크를 이용한 사이트들은 거의 손에 꼽을 정도로 많지 않았는데 

2023년 기준 전문적인 사이트만 40개 정도 되고 그 40개 안에 올라와 있는 불법촬영물만 해도 한 15만 개 정도가 된다. 

또 하나는 메신저 중에서 추적이 불가능한 메신저가 있어요. 거래할 때 다크 웹 사이트를 열어놓고 

그 주소를 줘서 보게끔 하고 가져가게 하고 다크 웹 사이트의 주소는 자꾸 바뀌거든요. 

고정돼 있지 않고 이제 그러니까 추적도 힘들고 그런 범죄를 본격적으로 하는 사람들한테는 

너무나 좋은 환경들이 지금 현재 열려있다. 이렇게 보시면 될 것 같아요.

(G-VIEW)

현재 딥페이크 관련 법과 제도는 어떻게 되어 있나요? 해외의 사례도 궁금합니다.

(김명주 교수)

우리나라 같은 경우는 2020년도에 N번방 사건이 있고 나서 법을 바꿨어요.

「성폭력처벌법」 14조 2항에 보면 허위 영상물 등의 반포(頒布) 이렇게 되어 있거든요. 

그러니까 허위 영상물 안에 그게 들어가 있는 거죠. 그리고 이제 외국 같은 경우는 

2023년도에 이른바 「알고리즘 책임법(Algorithmic Accountability Act)」이라 그래서 이제 AI 알고리즘을 비롯해서 

어떤 컴퓨터를 이용해서 뭘 만들어내면 그거에 관해서 책임을 져라 이게 일반적인 이야기죠. 

그러다 보니까 어떤 문제가 생기냐면 그러면 반포(頒布)하지 않고 갖고만 있어도 된다는 거냐라는 이야기 나오니까 

올해 4월달에 영국이 법을 하나 더 발의를 했어요. 제작만 해도 처벌하겠다.

우리나라도 사실은 볼 필요가 있는 게 아까 성폭력 처벌법이 강화됐다고 그랬잖아요. 

근데 거기도 우리나라도 뭐라고 돼있냐면 반포(頒布) 등을 할 목적으로 제작하는 경우만 이렇게 돼있어요. 

그러니까 이거를 나는 배포할 목적이 아니고 그냥 내가 취미로 만들어서 갖고 있는 거야. 그럼 처벌을 못합니다.

(G-VIEW)

딥페이크 성범죄의 통계가 있는지 궁금한데요, 특징이 있나요?

(김명주 교수)

디지털 성범죄에 관해서 실제적으로 피해자를 지원해 주는 디지털성범죄피해자지원센터가 있고요. 

거기서 매년 통계를 냅니다. 2023년도 통계를 보면 주목할 만한 부분들이 피해자의 거의 대부분이 여성이고 

10대 여성이 한 20.6%, 그다음에 20대 여성이 34.8% 합하면 10대 내지 20대 여성이 거의 55% 정도 되고요. 남성도 일부가 있기는 합니다.

(G-VIEW)

25% 정도의 남성피해자도 있다고 하셨는데요. 남성피해자들도 지원을 받고 있나요?

(김명주 교수)

성범죄가 여성한테만 일어나는 게 아니거든요. 남성들한테도 일어나고 디지털도 똑같습니다. 

그래서 그런 부분에 대한 인식도 필요해서 노력들을 하시는 것 같아요.

(G-VIEW)

여기서 잠깐!

「성폭력방지 및 피해자보호 등에 관한 법률」

제7조3(불법영상물등으로 인한 피해자에 대한 지원 등)에 근거하여

디지털성범죄 피해자에 대한 상담, 피해영상물 삭제지원, 수사·법률·의료지원연계 등 종합지원서비스를 디지털성범죄피해자지원센터에서 받을 수 있습니다.

(G-VIEW)

유럽연합이 세계 최초의 AI 기본법을 통과시켰습니다.

현 시점에서 우리에게 필요한 법과 제도에는 어떤 것들이 있을까요?

(김명주 교수)

영국에서 AI Safety Institute(AI 안전연구소)를 만들었고요. 지금 현재 미국도 있고 일본도 만들었구요. 

캐나다도 있고 그래서 우리나라도 만듭니다. 영국이나 미국은 정책 연구소예요. 

미리 영향평가라는 걸 해서 그 영향 평가가 나쁘게 나오면 그에 대한 대안을 어떻게 할 거냐. 

대안과 영향평가와 사회적 인식만 안 되면 법을 만들어야겠네, 법으로 금지시키거나 처벌을 해야겠네, 정책을 지원하는 기본 연구소거든요. 

그래서 우리나라도 AI 안전연구소를 만들면 기술적인 것도 좋지만 AI의 어떤 부작용이나 역기능을 좀 대처할 수 있는 

그런 핵심적인 기관으로 발전하면 어떨까 하는 생각을 가지고 있습니다.

(G-VIEW)

국제인공지능윤리협회에서는 일반 국민들이 안전한 디지털 정보를 활용할 수 있는 방안이나 

구체적인 가이드라인을 어떻게 마련하고 있는지 궁금합니다.

(김명주 교수)

제가 회장으로 있는 국제인공지능윤리협회에서는 2022년 7월달에 디지털 휴먼 인공지능 가이드라인을 발표했어요. 

그중에 여섯 번째 조항이 지금 나누고 있는 주제하고 상당히 많이 유사합니다. 

예를 들면 이제 디지털 휴먼을 개발해서 어떤 서비스를 할 때는 사용자나 소비자들이 사람이 한 건지 아니면 AI가 한 건지 구분을 못할 때가 있잖아요. 

보통 기망당할 수 있는데, 그렇게 하지 않도록 해야 된다 그렇게 명시를 하고 있고 그렇게 하기 위해서는 

명확하게 이거는 AI로 만들었다 이건 디지털 휴먼이다 사람이 아니다 이런 걸 밝혀라 이렇게 돼있거든요.

최근에는 디지털 약자(아동, 실버 등)에 대한 교육도 하고 있습니다. 피해 입은 사람들이 자기들 의견을 낼 수 있을 만큼 지식이 있어야 되잖아요. 

그래서 교육을 많이 하고 있습니다. 그리고 또 하나는 이제 인증 제도인데 과거에 인터넷 처음에 도입될 때 콘텐츠 등급제라는 걸 했어요. 

인터넷 사이트마다 이거는 몇 세가 볼 수 있다 없다 그런 것처럼 그런 등급제 비슷한 인증 제도를 해야 되지 않을까? 

그래서 그런 챗봇(Chat Bot)이라든지. AI 서비스에 관한 등급제, 인증제 이런 것도 지금 협회에서 본격적으로 준비를 하려고 노력을 하고 있습니다.

(G-VIEW)

끝으로 AI 딥페이크 영상을 만들고 접하는 사람들에게 한말씀 부탁드립니다.

(김명주 교수)

그런 생각들을 좀 너무 쉽게 하는 것 같아요. 특정인을 놓고 진짜도 아니고 컴퓨터 상에서 장난하듯이 

그래픽으로 하고 AI 가지고 하는 건데 뭐 그게 큰 대수냐. 대수입니다. 대수고 당사자들한테 굉장히 심각하구요. 

윤리의 가장 기본적인 건 역지사지(易地思之)거든요. 저 사람 입장이 돼보면 내가 뭘 어떻게 행동해야 되는 지가 원칙이 나오니까.

(G-VIEW)

오늘은 요즘 이슈가 자주 되고 있는 딥페이크에 대한 내용을 알아보았습니다.

딥페이크 기술에 대해 우리는 공감대 형성이 필요합니다!

사업자들의 기술적 조치 강화가 동반되어야 하며,

안전한 인터넷 활용에 대한 조기교육을 실시해야 합니다.

기술이 범죄에 이용되지 않도록 노력해야겠습니다. 이달의 G-VIEW 였습니다.