2026년 6월 26일 오경미 연구원이 “SBS 뉴스헌터스”의 논쟁코너인 ‘이슈져격’에 출연해 불법촬영물 AI 필터링 의무화(전기통신사업법)와 허위조작정보법(정보통신망법)에 대한 반대의견을 전달했다. 본 방송에서 시간 관계상 생략되거나 축약되었던 질문과 답변을 정리한다.
Q1. 7월부터 대형 사이트나 커뮤니티들은 음란물이나 불법촬영물을 막기 위해 AI 필터링 시스템을 의무적으로 돌려야 한다. 제도의 시행을 앞두고 총평을 부탁한다.
A. 불법촬영물 근절과 피해자 보호의 시급성에는 어떤 이견도 없다. 이런 범죄가 반드시 근절되어야 한다고 생각한다. 하지만 동시에 범죄 근절이라는 목적을 달성하기 위한 수단이 정당한가와 그 헌법적 한계에 있어서 고민이 드는 것도 사실이다.
Q2. 이 제도가 ‘사전 검열’이라는 우려에 대해 어떻게 생각하나?
A. 사전검열이라고 주장하는 시민사회의 의견에 거부감과 불편함을 느끼는 분들이 분명히 계실 거다. 하지만 사전검열이 맞다고 판단하고 있다. 불법을 차단하거나 근절하겠다는 제도의 목적은 분명 선하다고 생각한다. 그렇다고 하더라도 사법부가 아닌 행정기관이 주도해 민간의 통신내용을 실시간으로 모니터링하는 필터링 시스템을 의무화하도록 하는 구조는 우리 헌법이 금지하는 사전검열의 정의와 본질적으로 부합한다.
비유를 들어보자면, 도둑을 잡기 위해서 전 국민의 가방을 행정기관이 매일 검사하는 시스템을 도입한다고 생각해보자. 설령 경찰이나 행정기관이 도둑맞은 물건과 동일한 물건이 있는지 없는지만 검사한다고 하더라도 그 자체가 시민의 권리 침해라고 우리는 생각하지 않겠나?
Q2-1. 이번 조치가 정착되면 다른 분야로까지 규제가 확장될 수 있다는 우려도 있는데?
A. 시민사회단체들이 우려하고 있는 것이 바로 이 지점이다. 행정기관의 판단이 친정부편향적으로 이루어지며 규제가 다른 영열으로까지 확대될 가능성을 염려하고 있다.
사실 이런 조치들이 대부분 “안전한 사회, 건전한 사회를 위한”이라는 목적에서 출발한다. 팬데믹 시기 “안전한 사회”를 위해 우리 정부는 확진자 동선 추적을 했다. 초기에 동선을 아주 세세하게 공개한 탓에 사생활침해는 물론 소수자 집단에 대한 낙인으로 이어지는 심각한 부작용이 발생했다.
선한 의도에서 출발한다고 하더라도 이런 제도들은 예상하지 못한 결과를 초래할 수 있다. 그렇기 때문에 기본권을 제한하는 제도는 아주 신중하게 설계되고 도입되어야 한다.
Q3. AI가 하면 검열이 아닌가라는 의문도 드는데. 어떤 차이가 있다고 보나?
A. 인공지능이 심사를 대리한다고 해서 정부가 심사를 한다는 사실이 변하진 않는다. 공항에서 출국심사를 인공지능이 하고 있다. 그렇다고 해서 국가 심사가 아니라고 생각하는 사람은 없을 거다.
Q4. 무엇보다 옳고 그름을 판단하는 AI의 기준을 믿을 수 있을지, 어떻게 확인하고 납득해야 하나? 등록된 DB가 있다고는 하지만 그 DB에 무엇이 있는지 운영자도 모르는 상황 아닌가?
A. 오류가 많았던 것이 사실이다. 이제 정지 이미지로까지 적용범위가 확대될 예정이니 오류들은 더 많이 발생할 수도 있다. 이 오류를 줄이기 위해 AI를 이용하도록 당국이 강제하고 있는 것으로 보이는데 문제이다. 인터넷에는 수많은 사람들이 다른 사람들이 커뮤니티를 만들어 정보를 매개하는데 이용자 수가 많아지면 값비싼 AI를 장착해야 한다. 표현의 자유가 전체적으로 억압될 수밖에 없다.
또 필터링 기술 그 자체에 대한 의심이 있는 것도 사실이다. 제도를 실시한다고 하면 최소한 데이터베이스를 누가 어떻게 관리하고 있는지, 얼마나 자주 업데이터 되는지도 함께 논의가 되어야 한다. 하지만 이에 대한 문제제기도 거의 이루어지고 있지 않고 정보공개도 되고 있지 않다.
Q5. 이 법은 2020년 6월 N번방 사건을 계기로 개정되었다. 정작 불법촬영물이 조직적으로 유통되는 곳은 해외에 서버를 둔 사이트들인데 규제는 네이버, 카카오, 디시인사이드 같은 양지의 대형 플랫폼과 국내 이용자들에게 집중된다는 비판이 있다. 이 제도의 실효성은?
A. 아쉽게도 실효성이 크지 않을 거라고 생각한다. 불법촬영물을 올리는 이유 중 하나가 다크웹 등에서 판매해 이익을 보려는 것이다. 그러니 대형 플랫폼 규제하는 것으로는 실효성을 보기 어렵다.
규제보다는 정보매개자책임제한제도를 통해 정보매개자들이 자유롭게 삭제차단할 수 있도록 해줘야 한다. 유럽의 DSA나 미국의 DMCA는 정보매개자책임제한제도를 이용해 1년에 수억간의 불법불들이 정보매개자들에 의해 자발적으로 차단되도록 하는 성과를 올리고 있다.
Q6. 일각에서는 디지털 성범죄자에 대한 처벌 수위를 획기적으로 높여 유포 자체를 두려워하게 만드는게 본질적인 해결책이라는 주장도 있다. 그럼에도 사전에 차단해야 하는 이유가 있나?
A. 사전차단의 필요성을 요구하는 입장을 고려해보자면, 디지털성범죄자에 대한 처벌의 수위는 이전보다 높아졌다고 생각한다. 이렇게 높아질 수 있었던 건 확실히 여성운동이 일궈낸 성과이다. 하지만 타법과의 비교를 고려했을 때 현실적으로 처벌 수위가 더 높아지기는 어려울 것이다.
그리고 디지털콘텐츠의 특성상 한번이라도 인터넷에 노출되면 통제불가능하게 확산될 수 있고 완전히 삭제하는 건 불가능에 가깝기 때문에 사전차단의 필요성을 강력하게 제기하고 있다고 생각한다.
Q7. 대규모 플랫폼에 허위조작정보 차단 의무를 지우는 ‘개정 정보통신망법’도 함께 시행된다. 정부 산하 기구의 지원을 받는 단체가 이를 판정하게 되는데, 이 구조에 대해 두 분은 각각 어떻게 평가하나?
A. 행정기관이 온라인게시물의 불법여부를 판정하는 제도 자체가 매우 구시대적인 제도이다. 사람들의 의견은 모두 허위에서 출발한다. 언론사의 기사 역시 사실만을 전달하지 않는다. 의견을 전달하기도 한다. 허위와 진실 여부를 명백히 판별할 수 있다는 의지 자체가 이루어질 수 없는 욕망이라고 생각한다.
Q8. 대형플랫폼에 ‘가짜뉴스, 허위정보’라는 신고가 들어오면 플랫폼이 글을 지우거나 계정을 정지시켜야 한다. 안 하면 ‘형사처벌’까지 받게 된다. 유포를 막는 확실한 장치인가? 아니면 플랫폼 목줄을 죄는 조치라고 보는가?
A. 유럽 국가들은 행정기관이 불법성 여부를 판별하지 않습니다. 각 플랫폼이 신고와 차단 제도를 활성화할 수 있도록 그 책임성을 강화하고, 게시물 차단이 된 당사자가 이의를 제기할 수 있는 제도를 강화했습니다. 그 결과 신고로 차단된 게시물 수는 엄청나게 증가했습니다. 수억건에 달했다고 합니다. 하지만 복원을 요청한 사례는 매우 적었다고 합니다.
이뿐만이 아니고 시민사회단체들과 연구자들이 주축이 된 팩트체킹 시스템도 구축하고 강화했습니다. 행정기관이 정보의 불법성, 유해함을 판단하지 않고 사회가 자체적으로 정보의 불법성과 유해함을 판단하도록 구조를 만들어준 것입니다.
한국은 규제를 통해 플랫폼에 책임을 지우는 방법을 택해왔습니다. 이런 행정편의적 방식은 오히려 플랫폼이 책임성을 강화할 수 있는 유인을 저하시킨다고 볼 수 있습니다.
시민사회단체들은 국가 검열을 반대하는 것이지 플랫폼이 자체적인 규정에 따라 불법콘텐츠를 차단하거나 삭제하는 것을 반대하지 않습니다.
어쩌면 플랫폼이 구축할 수 있는 DB가 방미통위가 대조하라고 주는 db보다 훨씬 방대할 지도 모릅니다.
플랫폼이 자체적으로 DB를 구축해 불법정보를 더 충실히 가려낼 수 있도록 자체적인 방법(기술개발이나 정책개발)을 마련하도록 북돋워주는 정책을 마련하는 것이 어쩌면 더 건강한 인터넷 생태계를 만들 수 있는 방법이 될 수도 있지 않을까 생각합니다. 이렇게 국가가 강제하는 방식이 되면 플랫폼들은 난 정부가 하라는 거 다 했으니까 더 이상 노력 안할거야라면서 기술개발이나 정책개발에 더 소극적이 될 수도 있지 않을까요?
기술이나 정책은 지속적인 업데이트가 필요합니다. 국가가 배포하는 기술이나 정책이 현실을 따라잡지 못하는 경우도 우리들은 생각해보아야 하지 않을까요?
Q9. 가장 핫한 부분이 ‘5배 징벌적 손해배상제’인데요, 찬반 의견이 팽팽하다. 어떻게 보나?
A. 우리나라는 일반적 징벌적 손배가 없다. 나쁜 짓을 한 사람은 징벌적 손배를 물어야 할 위험이 없는데 나쁜 짓에 대해 보도를 하는 사람은 얼핏 부정확한 사실을 보도하면 징벌적 손배를 물어야 한다. 비판과 감시라는 언론의 역할 뿐만 아니라 시민의식까지 같이 위축될 위험이 높다.
Q10. 우리가 바라는 인터넷 공간은 디지털범죄의 피해자가 되지 않는 안전한 곳, 그러면서도 내 사생활이나 자유가 위축되지 않는 곳. 이 두 마리 토끼를 다 잡을 현실적인 대안이 있을지 마무리 발언 부탁한다.
A. 현재 불법촬영물을 완벽히 차단할 수 있는 대체 기술이나 마땅한 대안은 없습니다. 그러니 디지털 범죄를 이 세상에서 없애는 것은 불가능하다.
그럼에도 대안이 없으니 헌법적 가치를 훼손하는 수단이라도 쓰자는 논리는 위험하다. 오히려 대안이 없을수록, 기본권 침해를 최소화하면서도 범죄율을 낮추고 사후 조치를 강화할 수 있는 방법을 찾기 위해 사회가 더 치열하게 대화해야 한다고 생각한다.
이런 범죄가 발생한 이후에 범죄를 수사하고 처벌하고 범죄물을 삭제하는 것도 중요하고 피해자의 회복을 돕는 지원시스템도 튼튼하게 구축해야 한다. 포괄적인 접근이 필요한 거죠. 우리 사회가 이런 포괄적인 시스템 구축을 위해 얼마나 노력해왔는가 되돌아볼 필요도 있을 것 같다.
[관련 글]
[오픈토크] [뉴스헌터스][이슈저격] AI 온라인 ‘검열’ 논란 (2026.06.26.)
English version text
0 Comments