2017년, 레딧 이용자 '딥페이크스'는 기존 성착취물에 여성 연예인의 얼굴을 합성하였다. 이른바 딥페이크의 등장이다. 2023년 12월, 수십억 개 이미지로 구성되어 생성 AI 학습에 활용되어 온 공개 데이터셋 LAION-5B에 다수의 아동 성착취물이 포함되어 있다는 사실이 밝혀졌다. 2024년 현재, 대한민국은 형용할 수 없을 만큼 잔혹한 딥페이크 성착취물 피해 사례가 매일같이 보도되고 있다.

이미지 생성 AI는 심지어 이용자의 의도와 무관하게 성적 묘사를 하기에 이르렀다. 증명사진을 확장하기 위해 이미지 생성 AI 모델을 썼더니 가슴 아래가 나신으로 생성되었다거나, 셔츠 단추를 교묘히 풀어 헤친 상태로 묘사되었다는 사례들은 지금의 생성형 AI 기술이 그 자체만으로도 문제라는 사실을 여실히 보여준다.

근대문명은 과학적 지식을 기초로, 특정 목적을 위해 기술을 취사선택하고 이에 따른 잠재적 위험을 감수한다. 과학은 사회가 기술을 도입하는 과정에서 겪을 수 있는 위험을 충분히 밝히고 이를 합리적으로 관리할 것을 약속한다. 과학 공동체의 예리한 감각기관이 기술의 위험을 간파하고 이에 대응할 관리 방법을 제시할 것으로 기대된다. 하지만 과학 공동체는 딥페이크 기술이 여성에게 가하는 위험을 관리하는 데 철저히 실패했다.

우리 사회의 정치 역시 딥페이크 성착취물의 위험을 대비하는 데에 실패했다. 딥페이크 성착취물의 위험은 지극히 정치적 과정 속에서 알 수 없는 이유로 뒤로 밀렸다. 법무부 산하 디지털 성범죄 대응 TF의 권고안 중 현재 시행되고 있는 정책은 전무하며, 21대 국회에서 발의되었던 법안들은 국회 임기 만료로 자동 폐기되었다.

딥페이크 기술은 그것의 근간이 된 데이터셋의 제작부터 설계, 개발, 최종 이용에 이르기까지 전 생애주기에 걸쳐 여성에게 위험한 기술이었다. 그것의 위험은 명백히 여성에게 불평등하게 분포하고 있었다. 딥페이크 기술이 성착취물 제작에 이용되고 있다는 명백하게 현존하는 위험을 과학 공동체와 우리 사회는 정말 몰랐던 것일까.

과학 공동체와 정치의 무능과 무관심 속에서 딥페이크 성착취물로 인한 피해는 전적으로 여성이 짊어져야 했다. 그것의 위험성을 알린 것 또한 여성들이었다. 딥페이크 기술의 위험을 사회가 인지하고 대응하기까지 수많은 여성의 존엄이 훼손되어야 했고, 수많은 여성이 이를 공론화하기 위한 싸움을 벌였다. 우리 사회의 과학적 감각기관은 여성에게 가해지는 명백하고 현존하는 위험이 적나라하게 드러나고 나서야 이 위험을 마치 처음 발견한 것처럼 놀라 움츠리고 있다.

소라넷, 웰컴투비디오, 웹하드 카르텔, N번방 등 산업적 규모로 성장한 한국의 성착취물 시장을 배경으로 딥페이크 기술은 빠른 ‘발전’을 거듭했다. 딥페이크 기술은 이전까지 여성이 경험해 온 구조적 폭력을 반복하고 있으며, 그런데도 딥페이크를 비롯한 기술이 매개, 증폭하고 있는 위험은 사회의 관심 범위 밖에 있었고, 이러한 공백 속에서 딥페이크 성착취물은 시장 가치를 인정받아 산업적 규모로 성장하였으며, 위험은 현실이 되어 여성의 삶을 파괴하였다. 딥페이크 기술이 초래한 위험의 불평등은 딱 우리 사회만큼 불평등했다. 과학 공동체 그리고 우리 사회는 이에 대한 윤리적 대답을 마련해야 한다.