AI 워터마크 의무화, 딥페이크 성범죄 방지에 도움될듯

2019년을 뜨겁게 달구었던 사건을 뽑아보라면 필자는 'N번방 사건'이 먼저 떠오른다. N번방 사건은 디지털 성범죄의 심각성을 극명하게 드러낸 사건으로 수많은 여성과 아동이 협박과 성 착취 피해를 당한 사건이다.

끝없는 수사 끝에 2020년 3월 초, 텔레그램을 통해 대규모 성 착취물 유포가 밝혀지면서 사회적으로 큰 충격을 주었고 가해자들에 대한 법적 대응이 본격적으로 이루어졌었다. 그런데도 최근 딥페이크 기술을 악용한 성범죄물이 등장하며 유사한 논란이 다시 불거졌다.

여기서 ‘딥페이크’란 인공 지능 기술을 활용해 기존 인물의 얼굴이나, 특정 부위를 합성한 영상 편집물을 의미한다. 지난 8월 X(전 트위터)에서 텔레그램 피해 지역과 학교 명단이 공유됐다. 학생들뿐만 아니라 직장인, 가족 더 나아가 학교 선생님과 여군들까지 표적이 됐을 정도로 피해자의 범위가 넓다는 사실이 추가로 드러났다. 해당 이슈로 인해 누구나 성범죄 피해자가 될 수 있다는 불안감이 확산하였고 개인정보를 숨기기 위해 SNS에서 모든 게시글을 지우는 사람들도 늘어났다.

이에 따라 최근에는 딥페이크 성범죄물의 확산을 막는 방안으로 AI 생성물에 대한 워터마크 의무화가 논의되고 있다. 일각에서는 워터마크가 성범죄를 예방하고 불법 영상물을 쉽게 식별할 수 있는 효과적인 방법이라고 주장한다. 특히, AI 기술의 빠른 발전으로 인한 악용 사례가 늘어나고 있어 기술적 투명성을 강화하고 범죄 예방을 위해 워터마크 도입이 필수적이라는 입장이다.

반면 워터마크 의무화가 AI 기술 발전을 저해할 수 있단 우려도 나왔다. 딥페이크와 무관한 기술에까지 적용되면 정보기술 산업에 부정적 영향을 미칠 수 있다는 것이다. 또한 워터마크만으론 모든 불법 콘텐츠를 완벽하게 차단하기 어렵고, 기술적 한계가 존재한다는 점도 반대 의견의 주요 논점이다.

필자는 AI 워터마크가 의무화는 딥페이크 성범죄 예방에 도움이 될 수 있는 중요한 도구 중 하나라고 판단한다. 딥페이크와 같은 범죄들의 기술적 악용을 방지하고, 가짜 콘텐츠를 쉽게 식별할 수 있기 때문이다. 다만 이 규제가 과도하게 적용된다면 AI 기술 발전을 저해하거나 무관한 기술에도 부담을 줄 수 있어 신중한 접근이 필요한 것이 사실이다. 딥페이크 성범죄 방지의 열쇠가 될 순 있겠지만, 워터마크 하나에만 의존하는 것이 아닌 추가적인 법적 규제와 기술적 대응이 병행되어야만 한다.

기술의 발전은 우리에게 상상도 못한 미래를 가져다주고 있다. 분명 이로운 점도 많지만 이에 따른 악용 사례도 계속해서 늘어나고 있다. 피해자를 위한, 더 나아가 우리를 위해서라도 끊임없는 관심이 필요한 때이다.