딥페이크(Deepfake) 기술의 발전과 함께, 디지털 성폭력 문제가 심각한 사회적 이슈로 떠오르고 있다. 특히 텔레그램과 같은 해외 플랫폼에서 딥페이크 음란물이 유통되면서 이에 대한 법적 대응의 필요성이 제기되고 있다. 하지만 딥페이크 규제 강화 움직임이 국내 플랫폼에만 과도하게 적용될 경우, 국내 기업들이 역차별을 겪을 수 있다는 우려가 존재한다. 이번 글에서는 딥페이크 문제와 국내 플랫폼의 역차별 이슈를 살펴보고, 이에 대한 사회적 논의와 대응책을 제시하고자 한다.
텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나
딥페이크의 등장과 문제점
딥페이크는 인공지능(AI) 기술을 활용해 특정 인물의 얼굴이나 음성을 조작하는 기술로, 주로 성범죄에 악용되면서 큰 논란을 일으키고 있다. 특히 텔레그램과 같은 메시징 플랫폼에서 딥페이크 음란물이 유통되면서 피해자들이 심각한 정신적, 사회적 피해를 겪고 있다. 가상 공간에서 일어나는 이와 같은 범죄는 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있어 더욱 문제로 지적되고 있다.
하지만 문제는 딥페이크 음란물이 주로 해외 플랫폼에서 유통되고 있다는 점이다. 이로 인해 국내 규제 기관은 외국계 플랫폼을 규제하는 데 어려움을 겪고 있으며, 이를 효과적으로 막을 수 있는 법적 대응이 부족한 실정이다.
국내 법안 발의와 규제 강화 움직임
딥페이크에 대한 사회적 논란이 커지면서, 국회는 관련 법안을 발의해 대응에 나섰다. 2024년 현재, 딥페이크 관련 법안이 30건 이상 발의되었으며, 주로 딥페이크 음란물의 제작, 소지, 유통, 시청 등을 처벌하는 내용이 포함되어 있다. 또한 피해자를 지원하기 위한 다양한 법적 규제 방안도 논의되고 있다.
그러나 이러한 법적 규제가 국내 플랫폼에만 지나치게 집중될 경우, 국내 기업들이 불필요한 규제를 받게 되는 역차별 문제가 발생할 수 있다는 지적이 있다. 특히 네이버, 카카오와 같은 국내 플랫폼은 이미 딥페이크 방지를 위한 여러 기술적 장치를 마련해두고 있지만, 외국계 플랫폼에 대한 실효성 있는 대응이 어렵기 때문에 국내 플랫폼에만 규제가 과도하게 적용될 우려가 크다.
외국계 플랫폼 규제의 어려움
외국계 플랫폼인 텔레그램은 딥페이크 음란물 유통의 중심지로 꼽히지만, 이들에 대한 규제는 쉽지 않다. 텔레그램의 경우, CEO가 수감된 상황임에도 불구하고 국내 수사기관이 플랫폼에 접근하는 것조차 어려운 상황이다. 유튜브와 같은 플랫폼도 유사한 문제를 겪고 있다. 예를 들어, 유튜브 뮤직의 끼워팔기 의혹에 대한 조사는 1년 넘게 이어졌으나 여전히 제재 결정이 내려지지 않고 있다.
이러한 상황에서 국내 기업들이 과도한 규제를 받는다면, 이는 자칫 국내 플랫폼 산업의 위축으로 이어질 수 있다. 실제로 구글과 메타는 개인정보 무단 수집 문제로 1,000억 원의 과징금을 부과받았으나, 행정 소송을 통해 규제를 회피한 사례도 있다. 이러한 외국계 플랫폼에 대한 실효성 있는 규제가 필요하다는 목소리가 커지고 있다.
국내 플랫폼의 대응과 자율 규제
국내 플랫폼들은 딥페이크 방지를 위해 여러 가지 대응책을 마련하고 있다. 네이버는 실시간 AI 이미지 필터링 시스템인 '클로바 그린아이'를 통해 딥페이크 콘텐츠를 걸러내고 있으며, 카카오는 포털 다음에서 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 다양한 자율 규제 시스템을 도입하고 있다.
이러한 자율 규제 노력에도 불구하고, 플랫폼 업계에서는 추가적인 법적 규제가 산업에 미치는 부정적 영향을 우려하고 있다. 한 업계 관계자는 “국내에서는 워낙 플랫폼 규제가 강해 문제가 발생할 경우 큰 타격을 받을 수 있다”며 “외국계 기업에 대한 실효성 있는 규제가 없다면, 추가적인 법안 도입은 국내 산업에만 부담을 줄 것”이라고 우려를 표명했다.
비대칭 규제 문제와 해결 방안
국내 플랫폼과 외국계 플랫폼 간의 규제 비대칭 문제는 오랜 시간 해결되지 않고 있는 고질적인 문제이다. 특히 네이버와 카카오 같은 국내 사업자는 강력한 규제에 묶여 있는 반면, 구글, 페이스북, 텔레그램 같은 외국계 사업자는 상대적으로 규제를 덜 받는 상황이다.
한국인터넷법학회 정필운 회장은 “비대칭 규제는 국내 정보기술 산업의 발전을 가로막는 주요한 문제”라고 지적하며, 외국계 플랫폼에 대한 실효성 있는 대응 방안이 필요하다고 강조했다. 또한 정부와 기업은 협력하여 법적 규제와 자율 규제를 균형 있게 적용하는 것이 중요하다.
정부와 학계의 제안: 비례적 규제와 자율 규제 강화
정부와 학계에서도 딥페이크 규제 방안에 대한 다양한 논의가 이루어지고 있다. 가천대학교 최경진 교수는 딥페이크와 같은 AI 기술이 실제로 적용되는 분야의 특성과 구체적인 위험성을 고려한 비례적 규제 체계가 필요하다고 강조했다. 즉, 무작정 규제를 강화하는 것이 아니라 기술 발전과 범죄 예방의 균형을 맞춰야 한다는 것이다.
또한, 최 교수는 정부는 법적 규제를 마련하는 동시에 기업들은 자율 규제를 강화해야 한다고 제안했다. 이를 통해 산업 발전을 저해하지 않으면서도 디지털 성범죄를 효과적으로 예방할 수 있다는 것이다.
결론: 디지털 성폭력 시대, 균형 잡힌 규제가 필요하다
딥페이크 기술의 발전으로 인한 디지털 성폭력 문제는 더 이상 가상 공간의 문제가 아니다. 법적 규제와 사회적 논의가 필요한 시점이다. 그러나 규제가 국내 플랫폼에만 집중되어서는 안 된다. 국내 플랫폼은 이미 다양한 자율 규제 방안을 도입하고 있지만, 외국계 플랫폼에 대한 규제는 여전히 미흡한 실정이다.
따라서 정부와 기업은 협력하여 비대칭 규제 문제를 해결하고, 균형 잡힌 법적 규제를 마련해야 한다. 이를 통해 디지털 성폭력 문제를 효과적으로 해결하고, 국내 플랫폼 산업의 성장을 저해하지 않도록 하는 것이 중요하다.
