딥페이크 피싱 주의보

 

딥페이크 피싱 주의보가 내려진 가운데 가짜와의 전쟁이 시작되었습니다. 요즘 피싱으로 사칭 광고가 쏟아져 나오는 것을 보며 그냥 문제가 아니라는 생각이 듭니다. 더구나 최근에는 AI 관련 회사를 이용하여 얼굴, 행동, 목소리를 딥러닝하여 나온 영상을 확인하게 되었는데, 정말 놀랍습니다.

딥페이크 주의보

 

연습으로 글을 써서 방송을 하고 있는 모습으로 대입을 했을 뿐인데 방송을 하고 있는 모습이 실제처럼 그대로 보여 놀라웠지만 한편으로는 만약 누군가가 마음먹고 이미지합성 또는 영상합성으로 가짜를 만든다면 정말로 속수무책으로 당할 것이라는 생각이 들었습니다. 이러한 딥페이크는 무엇이고 문제의 심각성과 대책에 대해 알아보겠습니다.

 

 

 

1. 딥페이크(deepfake)란?

딥페이크 주의보

 

 

인공지능을 기반으로 활용한 인간 이미지 합성 기술로서 기존에 있던 인물의 얼굴이나 특정 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭합니다. 디지털 기술과 인공지능의 발전으로 인해 예전과는 차원이 다르게 정교한 결과물이 나오고 있습니다.

 

합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여 대상이 되는 동영상을 프레임 단위로 합성시키는 것으로 병렬연산장치의 성능에 따라 속도와 품질이 결정됩니다.

 

 

 

 

2. 현재 진행 중..

현재에도 온라인에서는 딥페이크 이미지가 계속해서 나오고 있습니다. 일부 딥페이크 사진과 동영상이나 인터뷰 등이 진짜인 것으로 착각되어 수만 번 이상 공유된 사례가 종종 있습니다.이는 무분별한 공유로 구분이 어려워진다는 것을 의미하며 누군가의 인터뷰를 조작하거나 말을 왜곡시키기가 용이해진 것입니다.

 

또한 미국의 유명인들을 AI를 이용해 목소리와 이미지를 가져와 가짜 광고를 만들어 소문이 나고 있으며, 국내에서도 유명인을 사칭해 가짜 광고를 만들어 내보내고 있습니다. 현재 이 가짜 광고로 각계에서는 골머리가 아파지고 있습니다. 수백. 수천 개의 메시지에 답변을 해주고 특정인이 나오는 광고는 이미지를 이용한 사칭이며 계속해서 진화하고 있는 중입니다.

 

 

 

 

 

3. 문제의 심각성

이것은 문제의 시작에 불과합니다. 딥페이크 기술은 가족까지 속일 정도로 정교해졌습니다. 누군가의 SNS 계정에서 목소리와 이미지만을 따와 가족과 친구인 척 행세하며 벌어질 금전적인 피해를 생각해 보니 매우 심각합니다.

 

특히 이 기술을 잘 이해하지 못하는 우리 부모님 세대가 이 상황과 마주한다면 더욱 위험할 것입니다. 어디까지 설명을 해야 속지 않을 것인지 가이드라인이 현재 없는 실정입니다.

 

우리는 단순히 방관만 하고 있다면, 더 많은 피해자가 발생할 우려가 크며  현재까지 관련 법도 마련되어 있지 않습니다. 외국에서는 특정인의 이미지와 목소리를 이용한 범죄를 만들어내는 딥페이크에 대한 법적 대응이 이뤄지고 있지만, 국내에서도 더 강력한 법과 규제가 필요합니다.

 

파리드 버클리 캘리포니아대(UC버클리) 컴퓨터 과학 교수는 딥페이크 이미지, 동영상과 진짜를 어떻게 구분할 수 있느냐는 질문에 “행운을 빈다” 고 답하기까지 했습니다.

 

 

4. 피해 속출

딥페이크 얼굴합성기술

 

곳곳에서 '딥페이크' 피해가 속출하고 있으며, 유명인과 정치인에 국한되지 않고 일반인도 피 할 수 없게 되었습니다. '딥페이크'는 인공지능(AI)으로 특정 인물의 이미지나 목소리 등을 디지털 콘텐츠에 합성하는 기술로, 유명 연예인의 얼굴을 포르노 영상에 합성한 사례가 미국의 레딧에서 유래되었습니다.

 

초기 User 계속해줘 ChatGPT 사례는 연예인 얼굴이 주로 합성 대상이었지만, 더욱 쉽게 조작할 수 있는 AI가 보급되면서 일반인도 딥페이크 피해를 입는 사례가 급증하고 있습니다.

 

한국에서는 방송통신심의위원회가 국내에서 딥페이크 성적 허위 영상물에 차단.삭제 시정을 요구한 사례가 2020년 473건에서 2023년 11월까지 5996건으로 12배 이상 급증했습니다.

 

월스트리트저널은 고등학생들이 교내 여학생들의 딥페이크 나체 사진을 만들어 유출하다가 발각된 사례를 보도했으며, CNN은 딥페이크의 표적이 되는 사람들이 유명인뿐만 아니라 간호사, 예술대생, 교사, 언론인 등으로 확대되고 있다고 경고하고 있습니다.

 

선거를 앞두고 있는 정치권에서도 딥페이크에 경계가 높아지고 있으며 이미 미국에서는 조 바이든 대통령의 가짜 전화 목소리로 투표 거부를 독려한 선거운동이 논란이 되었으며, 한국에서도 국민의힘 지지자로 추정되는 인물이 'AI 윤석열'을 활용해 선거광고를 제작한 사례가 문제가 되었습니다.

 

중앙선거관리위원회는 딥페이크로 인한 피해를 막기 위해 딥페이크 영상을 활용한 선거운동을 금지하고, 검증요원 모니터링, 딥페이크 판별프로그램 검증, AI 전문가 검증 등 3단계 절차를 통해 법위반 여부를 가려내기로 결정했습니다.

 

 

5. 대책

현재까지 딥페이크로 인한 피해를 막기 위해 탐지기술과 규제 법안이 쏟아지고 있습니다.국내에서는 생성형 AI 전문 기업이 딥페이크 탐지 설루션을 개발하였고, 국제적으로도 미국, 유럽연합, 중국 등에서 플랫폼 기업에 대한 딥페이크 콘텐츠 표시 의무 등을 규제하는 입법이 이뤄지고 있습니다.

 

또한 국내 의원들도 딥페이크에 대한 대응책 마련을 위한 법개정을 추진하고 있지만 그러나 빅테크 기업이 선의로 내놓는 딥페이크 기술이 악용되는 것을 막기 위해서는 더욱 강력한 수사력이 필요하며, 악용 사례마다 신속하게 대응할 수 있는 체계가 필요합니다.

 

현재의 딥페이크 기술은 높은 완성도를 갖추고 있어 전문가도 구분하기 어려우며, 열성 당원들의 확증편향과 결합하여 정치적인 목적의 선전. 선동에 악용될 가능성이 높고 관련된 전문가들은 더욱 강화된 수사력과 철저한 대책이 필요하다고 지적하고 있습니다.

 

6. 결론

 

이제는 더 이상 문제를 방관할 수 없는 시점에 왔습니다. 고도화된 딥페이크 기술이 등장한 지 얼마 되지 않았습니다만 기술은 더욱 발전할 것이며, 이 상황에서 사칭과 가짜가 난무한다면 많은 피해자가 나올 것이 자명합니다.

 

이제는 더 적극적으로 문제의식을 가지고 대응해야 하며 나만의 일이 아니라 모든 이들이 범죄의 표적이 될 수 있다는 경각심을 가져야 하고 누군가가 나를 사칭해 딥페이크와 AI 기술을 이용해 다른 나를 만들어 범죄에 사용할 수 있다고 생각하면 정말 소름이 끼칠 것입니다.

 

이 문제에 대한 법이 강화되어야 하며 이제는 법적인 대응뿐 아니라 각종 업체, 플랫폼, SNS 기업들도 적극적으로 대책을 마련해야 할 시점이라고 생각합니다. 출처:조선비즈, 국제뉴스, 세계비즈 앤 스포츠월드, 유튜브 Shamook, YTN,