법률 제안 프로젝트

1. 법률 제목 : 딥페이크 처벌 및 규제법

2. 제안 슬로건 : 투명한 디지털 세상, 딥페이크 규제로 시작할 수 있다.

3. 제안 배경(뉴스) : 주로 유명인을 대상으로 했던 딥페이크물 성범죄 피해가 일반인으로까지 확산하고 있다. 한국여성인권진흥원이 지난달 발간한 ‘2023 디지털 성범죄 피해자 지원 보고서’에 따르면, 지난해 합성, 편집 등 불법 합성물에 의한 피해 상담 건수는 423건이었다. 2022년(212건)보다 2배 가량 증가한 수치다. 합성 기술이 발달하고 생성형 인공지능(AI)이 등장하면서 불법 딥페이크물을 보다 손쉽게 제작할 수 있게 되었다. 경찰청에 따르면, 딥페이크 범죄 관련 사건은 2021년 74건에서 93건으로 늘었다. 하지만 실제 피해 사럐는 더 많을 것이라고 전문가들은 지적한다. 웹하드나 온라인 커뮤니티 등 접근성이 높은 공간과 달리 수사하기 힘든 개인 간 SNS 대화방을 통해 범죄가 주로 일어나기 때문이다.

4. 사례와 관련된 법률 및 헌법 조항 : [성폭력처벌법 제14조의2 제1항] 반포등을 할 목적으로 사람의 얼굴, 신체 또는 음성을 대상으로 한 촬영물, 영상물 또는 음성물을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집, 합성 또는 가공한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. [대한민국 헌법 제10조] 모든 국민은 인간으로서의 존엄과 가치를 가지며, 행복을 추구할 권리를 가진다. 국가는 개인이 가지는 불가침의 기본적 인권을 확인하고 이를 보장할 의무를 가진다.

5. 법률의 필요성 : 허위 합성물 제작, 반포 혐의 처벌 수위가 불법 촬영이나 불법 촬영물 유포 등의 법정형(7년 이하의 징역 또는 5000만원 이하의 벌금)보다 낮고 불법 합성물을 소지, 시청한 자를 처벌하는 법률은 없다. 또한 합성 콘텐트를 식별하기 위한 규정이 존재하지 않는다. 그러므로 국민의 인간으로서의 존엄과 가치, 행복권을 보장하고 허위 합성물 유포, 소지, 시청 시 엄격한 처벌을 위한 법률이 필요하다.

6. 법률 내용 : 반포등을 할 목적으로 사람의 얼굴, 신체 또는 음성을 대상으로 한 촬영물, 영상물 또는 음성물을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 할 수 있는 형태로 편집, 합성 또는 가공한 자는 7년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또한 피해자 지원 과정에서 든 비용을 가해자에게 모두 물게 한다. 온라인 플랫폼 사업자는 AI가 생성한 합성 콘텐츠를 식별하고 진위 확인 및 출처 파악을 위해 워터마킹을 의무적으로 사용하도록 해야 한다.

7. 기대 효과 : 딥페이크 처벌 및 규제법을 집행함으로써 피해자를 보호하고 삶을 안정시킬 수 있으며 인간으로서의 존엄과 가치, 행복권을 보장할 수 있다. 성폭력을 시도하는 가해자들에게 경고와 위험성을 인식시켜 범죄를 예방하는 데 도움이 된다. 또한 법률을 개정하면 사회적으로 딥페이크 문제에 대한 인식을 높일 수 있고 딥페이크 기술의 악용을 방지할 수 있다. 마지막으로 기술 발전에 대한 윤리적인 고려를 강조하고 기술 발전과 사회적 책임 사이의 균형을 유지하는 데 일조할 수 있다.