오픈넷 박경신 이사는 Future of Free Speech가 주최한 10월 3-4일 글로벌 표현의 자유 서밋에서 현재 AI 규제의 문제점에 대해 다음과 같이 발표했다:
1. 한국은 브라질이 그랬듯 EU AI 법을 모델로 하여 법안을 통과시켰다. 그러나 이것만으로는 충분하지 않다. 인류는 여러 활동을 하나하나 자동화해왔다. 자동차, 식기세척기 등이 그런 예다. 마침내 AI는 명백히 미 수정헌법 제1조 보호대상인 사고 및 의사결정 행위를 자동화했다. 한국 법과 EU AI 법의 공통적인 문제점은 인간의 질문에 대해 가장 확률적으로 그럴 듯한 응답을 생성하는 특정 유형의 소프트웨어로 수행된다는 이유만으로 이 수정헌법 제1조 활동에 부담을 준다는 것이다.
2. 해당 법률은 AI 자체를 규제하지는 않고 오직 그 사용 행위를 규제한다. 따라서 동일한 AI가 특정의 높은 위험 또는 높은 영향 분야에 적용될 때 더 많은 부담이 발생한다. 그러나 이른바 고위험 및 고영향 분야는 고위험 또는 고영향이라는 이유로 이미 기존 규제로 다루어지고 있다. 법률이이 결과적으로 하는 일은 새로운 확률적 소프트웨어로 이를 수행하려고 할 때 기존의 안전 및 공정성에 관한 기준을 준수하기에 더 어렵게 만드는 것일 수 있다. 결과적으로는? AI가 더 안전하고 더 윤리적인 결정을 내릴 수 있는 능력을 억제할 뿐만 아니라 그 분야들을 덜 안전 및 공정하게 만들 위험성이 있다.
3. 지금 나는 AI가 표현행위만을 강화하므로 AI 규제가 없어야 한다고 말하는 것이 아니다. AI의 세 가지 측면이 공중의 개입을 필요로 하거나, 규제를 필요로 하는데, 이는 현재 버전의 AI, 즉 기계학습에 기반한 AI의 독특한 특성에 맞춘 것이어야 한다. 첫째, 훈련 데이터의 접근성을 높여, AI의 혜택이 이를 구매할 수 있는 대형 기업들에게만 한정되지 않도록 해야 한다. 둘째, AI 훈련에 사용되는 개인 데이터의 개인정보 보호를 위한 더 나은 데이터 거버넌스. 셋째, 편견, 혐오, 거짓을 제거하여 훈련 데이터의 품질을 향상시킴으로써 이들이 증폭되지 않도록 해야 한다.
4. 데이터 접근성에 관련하여, 먼저 저작권법: 한국은 AI 훈련이 저작권 있는 작품에 대한 복제인지 여부에 관한 중요한 문제에 관해 다른 선진국들이 결정하는 대로 이를 따를 것이다. 인간이 책을 읽을 때 저작권이 문제되지 않는다. 기계가 이를 읽을 때는 어떨까? 둘째, 공개 정부 데이터: 나는 이 일정 이후 공개 정부 파트너십 서밋을 위해 스페인으로 갈 것이다. 정부는 당연히 유용한 데이터를 많이 가지고 있다. 올해 초 프랑스에서 우리는 Current AI를 출범했는데, 이는 바로 데이터 접근성을을 위해 여러 정부 데이터를 모으려는 시도다. 한국에서는 이를 본 적이 없다.
5. 개인정보 보호 강화에 관하여, 한국은 GDPR 유형의 데이터 보호법을 가지고 있지만 그 기계적 적용은 개인 데이터의 접근성을 축소 시키고 있다. 예를 들어, 한국의 법원 판결은 여전히 개인정보에 관한 우려려 때문에 기계학습을 위해 제공되지 않는다. 또한 중요 뉴스 기사나 민원에서 누군가를 특정하는 것은 명백히 개인정보 비동의 처리를 포함하지만 이것이 범죄화되고 있다. 마지막으로, 개인정보에 대한 과도한 보호주의는 역설적으로 가명정보 재식별이 절대로 재식별 행위를 하지 않는다는 전제하에만 가능하게 하는 규제로 이어졌다. 알다시피, 일부 정보주체 권리 행사는 가명정보 재식별을 필요로하고, 해당 권리들은 재식별 절대 금지원칙 때문에 행사하는 것이 불가하다.
6. 데이터 윤리 강화에 관해, 한국은 다른 여러 아시아 국가들처럼 사람들이 서로를 보기보다 위를 보며 해결책을 찾는 수직적 사회 구조로부터 고통받아왔다. 이런 역사는 이미 한국 AI 기본법에 나타나 있는데, 고영향 AI 심사에 정부의 역할을 강조하여 정부 검열의 위험을 발생시킨다. 우리에게 필요한 것은 동남아 협력 정책 네트워크의 예시처럼 시민 사회와 기술 커뮤니티의 신중한 협업이다. 이를 통해 현재 기계들이 배우기 위한 교과서, 즉 데이터의 조정과 큐레이션을 만드는 것이다다.
7. 결론적으로, 우리는 넓게 인간의 활동들이 자동화되어 온 기술 발전의 연속선상에서 AI를 봐야 한다. 국제 인권 기준은 이를 염두에 두고 AI 활동에 적용되어야 한다.
8. 이와 관련하여 한국의 두 법률은 AI에 대한 근거 없는 두려움에 의한 과민 반응으로 두드러진다 – 선거 및 성적 맥락에서 딥페이크 완전 또는 거의 완전 금지. 선거법은 동의 또는 비동의, 사실실이든 거짓이든, 패러디이든 풍자이든 모든 딥페이크를 금지한다. 오픈넷은 이에 대해 헌법소원을 제기했다.성범죄 처벌법은 비동의 딥페이크를 금지하고 이는 필요하지만, 범죄의 구성요건으로 허위 사실일 것을 요구하지 않으며 풍자나 패러디에 대한 예외가 없어서, 예를 들자면 화제가 되었던 트럼프의 가상 누드 피규어 같은 것을 금지할 가능성이 있다.
0 Comments