Deepfake ‘Nudify’ 기술은 점점 더 깊어지고 더 위험해지고 있습니다.

웹사이트 열기 명백한 딥페이크 생성기를 사용하면 공포스러운 메뉴가 표시됩니다. 단 몇 번의 클릭만으로 사진을 솔직한 8초짜리 비디오 클립으로 변환하여 여성을 사실적으로 생생한 성적 상황에 빠뜨릴 수 있습니다. 웹사이트에는 “우리의 고급 AI 기술을 사용하여 모든 사진을 누드 버전으로 바꿀 수 있습니다.”라고 적혀 있습니다.

잠재적인 남용에 대한 선택지는 넓습니다. 웹사이트에 있는 65개의 비디오 “템플릿”에는 등장하는 여성이 옷을 벗는 일련의 “옷을 벗는” 비디오가 포함되어 있습니다. 그러나 “Fuck Machine Deepthroat”라는 노골적인 비디오 장면과 다양한 “정액” 비디오도 있습니다. 각 비디오를 제작하는 데 약간의 비용이 듭니다. AI 생성 오디오를 추가하면 비용이 더 많이 듭니다.

WIRED가 추가 노출을 제한하기 위해 이름을 밝히지 않은 이 웹사이트에는 사람들이 AI로 변경하는 데 동의한 사진만 업로드해야 한다는 경고가 포함되어 있습니다. 이를 시행하기 위한 검사가 있는지 여부는 확실하지 않습니다.

Elon Musk의 회사가 만든 챗봇인 Grok은 동의하지 않은 수천 개의 “옷을 벗는” 또는 “누드” 비키니 이미지를 만드는 데 사용되어 디지털 성희롱 과정을 더욱 산업화하고 정상화했습니다. 그러나 이것은 가장 눈에 띄는 것일 뿐이며 가장 명백한 것과는 거리가 멀다. 수년 동안 수십 개의 웹사이트, 봇, 앱으로 구성된 딥페이크 생태계가 성장해 CSAM(아동 성적 학대 자료) 제작을 비롯한 이미지 기반 성적 착취를 자동화하는 것이 그 어느 때보다 쉬워졌습니다. 이러한 “나체화” 생태계와 이로 인해 여성과 소녀에게 미치는 피해는 많은 사람들이 인식하는 것보다 훨씬 더 복잡합니다.

5년 넘게 이 기술을 추적해 온 딥페이크 전문가 Henry Ajder는 “더 이상 아주 조잡한 합성 스트립이 아닙니다”라고 말합니다. “우리는 실제로 생성된 것의 매우 높은 수준의 사실성과 매우 광범위한 기능에 대해 이야기하고 있습니다.” 이 서비스를 합치면 연간 수백만 달러의 수익을 올릴 수 있습니다. “이것은 사회적 위기이며, 우리가 보고 있는 AI 혁명과 합성 미디어 혁명의 가장 최악이고 어두운 부분 중 하나입니다.”라고 그는 말합니다.

지난 1년 동안 WIRED는 몇 가지 명백한 딥페이크 서비스가 어떻게 새로운 기능을 도입하고 빠르게 확장하여 유해한 비디오 제작물을 제공하는지 추적했습니다. 이미지-비디오 모델에서는 일반적으로 짧은 클립을 만드는 데 사진 한 장만 필요합니다. 한 달에 수백만 건의 조회수를 기록할 가능성이 있는 50개 이상의 “딥페이크” 웹사이트에 대한 WIRED 리뷰에 따르면 현재 거의 모든 웹사이트가 노골적인 고품질 비디오 제작물을 제공하고 종종 여성이 묘사될 수 있는 수십 개의 성적 시나리오를 나열하는 것으로 나타났습니다.

한편, 텔레그램에서는 수십 개의 성적 딥페이크 채널과 봇이 정기적으로 다양한 성적 자세 및 체위와 같은 새로운 기능과 소프트웨어 업데이트를 출시합니다. 예를 들어, 작년 6월 한 딥페이크 서비스는 “섹스 모드”를 홍보하면서 “다른 옷, 좋아하는 포즈, 나이 및 기타 설정을 시도해 보세요”라는 메시지를 붙였습니다. 또 다른 게시자는 이미지와 비디오의 “더 많은 스타일”이 곧 출시될 것이며 사용자는 AI 시스템에 대한 맞춤형 프롬프트를 사용하여 “자신의 세부 사항으로 상상하는 것을 정확하게 만들 수 있다”고 게시했습니다.

“단순히 ‘누군가를 무장해제시키고 싶다’는 것이 아닙니다. 마치 ‘이렇게 다양한 가상의 버전이 있다’는 것과 같습니다. 이것은 다른 포즈입니다. 독립 분석가인 산티아고 라카토스(Santiago Lakatos)는 언론 매체 인디케이터(Indicator)와 협력하여 “누적화된” 서비스가 어떻게 대형 기술 회사 인프라를 활용하고 그 과정에서 큰 돈을 벌 수 있는지 연구했습니다. “그것은 성적 체위가 다릅니다.”라고 말합니다. “누군가를 만들 수 있는 버전이 있습니다. [appear] 임신했어요’라고 Lakatos는 말합니다.

WIRED의 검토에 따르면 텔레그램에는 39개의 딥페이크 생성 봇이 있고 채널에 140만 개 이상의 계정이 등록되어 있는 것으로 나타났습니다. WIRED가 Telegram에 서비스에 대해 문의한 후 회사는 최소 32개의 딥페이크 도구를 제거했습니다. 텔레그램 대변인은 “딥페이크와 이를 생성하는 데 사용되는 도구를 포함한 동의 없는 포르노는 텔레그램 서비스 약관에 따라 엄격히 금지됩니다”라고 말했습니다. 그는 콘텐츠가 발견되면 삭제하며 지난해 정책을 위반한 콘텐츠 4,400만 개를 삭제했다고 덧붙였습니다.