생성형 AI와 표현의 자유, AI가 그은 애매한 선

들어가며

유명인의 얼굴을 합성한 영상 하나가 순식간에 퍼지면서 논란이 된 사건을 본 적이 있을 것이다. 정교하게 만들어진 딥페이크는 이제 전문가가 아니어도 손쉽게 만들 수 있는 수준에 이르렀고, 동시에 생성형 AI는 누구나 상상만으로 그림과 영상을 만들어낼 수 있는 새로운 창작 도구로 자리 잡았다. 그런데 이 두 가지는 사실 같은 기술에서 출발한다. 문제는 AI가 만든 가상의 얼굴, 목소리, 이미지가 누군가의 인격권을 침해하는 순간과 새로운 예술적 표현으로 인정받는 순간의 경계가 놀라울 정도로 모호하다는 데 있다. AI가 만든 콘텐츠도 표현의 자유로 보호받을 수 있는 걸까.

딥페이크가 만드는 실질적 피해

딥페이크 기술이 처음 논란이 된 것은 유명인의 얼굴을 성적인 영상에 합성하는 사례에서였다. 이후 정치인의 발언을 조작한 가짜 영상, 지인의 목소리를 흉내 낸 음성 사기 등으로 피해 유형이 빠르게 확장되었다. 이런 콘텐츠의 가장 큰 문제는 실제로 하지 않은 말과 행동을 마치 본인이 한 것처럼 보이게 만든다는 점이다. 이는 명예훼손이나 성적 착취의 문제를 넘어, 한 사람이 자신의 얼굴과 목소리에 대해 가지는 근본적인 통제권, 즉 인격권 자체를 침해하는 행위로 평가된다. 실제로 여러 국가에서 동의 없는 딥페이크 성착취물 제작과 유포를 별도 범죄로 규정하는 입법이 빠르게 이루어지고 있으며, 선거를 앞두고 정치인을 대상으로 한 딥페이크 영상이 유포되어 여론 조작 논란으로 번진 사례도 여러 차례 보고되었다.

AI를 활용한 창작은 왜 다른 문제인가

반면 생성형 AI를 활용한 창작은 완전히 다른 층위의 논의를 필요로 한다. 화가가 실존 인물을 모델로 그림을 그리거나, 소설가가 실제 사건에서 영감을 받아 이야기를 쓰는 것은 오랫동안 예술 창작의 자연스러운 방식으로 인정받아왔다. AI 도구를 이용해 특정 화풍을 모방하거나, 가상의 인물을 만들어내거나, 풍자적인 합성 이미지를 제작하는 행위 역시 창작자의 표현 의도가 담겨 있다면 예술적 표현의 연장선으로 볼 여지가 있다. 실제로 일부 예술가들은 AI를 활용해 정치 풍자나 사회 비판적 메시지를 담은 작품을 발표하며 새로운 예술 장르를 개척하고 있다. 기술 자체를 규제하기보다는 그 기술이 어떤 의도와 방식으로 쓰였는지를 살펴야 한다는 목소리가 나오는 이유다.

인격권과 표현의 자유가 부딪히는 지점

문제는 딥페이크와 AI 창작물 사이의 경계가 실제 콘텐츠만 놓고 보면 명확히 구분되지 않는다는 데 있다. 동일한 기술로 만든 합성 이미지라도 누군가에게는 악의적인 명예훼손이 되고, 다른 맥락에서는 정당한 패러디나 풍자로 받아들여질 수 있다. 법원과 학계에서는 대체로 몇 가지 기준을 함께 살핀다. 콘텐츠가 실존 인물의 동의 없이 성적이거나 굴욕적인 맥락으로 사용되었는지, 시청자가 이를 사실로 오인할 가능성이 있는지, 그리고 창작물에 사회적 논평이나 예술적 의도가 명확히 드러나는지가 대표적인 판단 요소다. 다만 이런 기준 역시 사안마다 해석이 갈릴 수밖에 없어, 입법과 판례가 기술 발전 속도를 따라가지 못하는 공백이 계속 발생하고 있다.

AI 학습 데이터를 둘러싼 또 다른 권리 문제

생성형 AI 논쟁에서 빼놓을 수 없는 또 하나의 축은 AI가 무엇을 학습해서 결과물을 만들어내는가의 문제다. 대다수의 이미지 생성 AI는 인터넷에 공개된 수많은 이미지와 텍스트를 학습 데이터로 사용하는데, 그 안에는 저작권으로 보호받는 예술 작품과 사진, 글이 대량으로 포함되어 있다. 창작자들은 자신의 동의나 대가 없이 작품이 AI 학습에 쓰이고, 심지어 그 결과물이 원작가의 화풍을 그대로 모방해 시장에서 경쟁하는 상황에 대해 강하게 반발하고 있다. 실제로 여러 나라에서 예술가와 언론사들이 AI 기업을 상대로 저작권 침해 소송을 제기했고, 법원의 판단도 아직 하나로 모이지 않은 상태다. AI 기업들은 학습 과정이 저작물을 그대로 복제하는 것이 아니라 패턴을 분석하는 것이므로 공정 이용에 해당한다고 주장하지만, 창작자들은 결과물이 자신의 스타일을 대체하는 순간 이미 실질적 피해가 발생한다고 맞서고 있다.

앞으로의 균형점을 찾는 방향

결국 생성형 AI 시대의 표현의 자유 논의는 세 가지 축을 동시에 고려해야 하는 복잡한 문제다. 실존 인물의 인격권을 명백히 침해하는 악의적 콘텐츠는 신속하게 규제할 필요가 있고, 사회적 논평이나 예술적 가치를 지닌 창작물은 위축되지 않도록 보호해야 하며, 창작자의 저작권과 AI 기업의 기술 혁신 사이에서도 합리적인 보상 체계가 마련되어야 한다는 것이다. 일부 국가와 플랫폼은 AI 생성물에 워터마크나 출처 표시를 의무화하는 방향으로 제도를 정비하고 있으며, 이는 최소한 콘텐츠가 실제인지 합성인지를 이용자가 구분할 수 있게 해준다는 점에서 실질적인 절충안으로 주목받고 있다.

마무리

AI가 만든 콘텐츠도 표현의 자유로 보호받을 수 있는가라는 질문에 대한 답은 여전히 진행형이다. 기술은 이미 우리의 판단 속도보다 훨씬 빠르게 발전하고 있고, 법과 제도는 그 뒤를 좇아가는 형국이다. 분명한 것은 이 문제를 기술 대 규제의 이분법이 아니라, 인격권과 창작의 자유, 그리고 공정한 보상이라는 여러 가치를 함께 고려하는 방향으로 풀어가야 한다는 점이다.

참고

딥페이크 관련 각국 입법 동향, AI 저작권 소송 관련 판례 및 보도, AI 생성물 워터마크 표시 정책 관련 자료를 참고하였습니다.