딥페이크부터 그루밍까지: UN, 어린이에 대한 AI 위협 증가 경고

지침과 권장 사항이 포함된 성명 초안을 작성한 주요 기관 중 하나인 국제 전기 통신 연합(ITU)의 통신 개발국 국장인 코스마스 자바자바(Cosmas Zavazava)는 어린이를 표적으로 삼는 어지러운 일련의 방법을 나열합니다.

여기에는 그루밍부터 딥페이크, 유해한 기능 포함, 사이버 폭력 및 부적절한 콘텐츠에 이르기까지 다양합니다. “우리는 코로나19 팬데믹 기간 동안 많은 어린이, 특히 소녀와 젊은 여성이 온라인에서 학대를 당했으며 많은 경우 신체적 피해로 이어지는 것을 확인했습니다.”라고 그는 말합니다.

아동 옹호 단체는 포식자가 AI를 사용하여 아동의 온라인 행동, 감정 상태 및 관심사를 분석하여 그루밍 전략을 수립할 수 있다고 보고합니다.

또한 AI는 범죄자들이 실제 어린이의 명백한 가짜 이미지를 생성할 수 있게 하여 새로운 형태의 성적 착취로 이어집니다.

아동 성적 착취 및 학대에 관해 가장 신뢰할 수 있는 데이터를 수집하기 위해 설립된 독립적인 글로벌 연구소인 ChildLight 글로벌 아동 안전 연구소는 2025년 보고서에 따르면 미국에서 기술을 활용한 아동 학대 사례가 2023년 4,700건에서 2024년 67,000건 이상으로 증가할 것으로 예상됩니다.

북마케도니아의 젊은 성인들이 소셜 미디어를 확인합니다.

호주가 선두에 있다

유엔 회원국들은 문제의 규모와 심각성을 파악한 뒤 엄중한 조치를 취하고 있다.

2025년 말, 호주는 공유하는 콘텐츠로 인해 발생하는 위험이 잠재적인 이점보다 크다는 이유로 16세 미만 어린이의 소셜 미디어 계정을 금지하는 세계 최초의 국가가 되었습니다.

정부는 10~15세 어린이의 거의 3분의 2가 증오, 폭력 또는 충격적인 자료를 봤으며 절반 이상이 사이버 괴롭힘의 피해자였다는 보고서를 인용했습니다. 이 콘텐츠의 대부분은 소셜 미디어 플랫폼에서 볼 수 있었습니다.

말레이시아, 영국, 프랑스, ​​캐나다를 포함한 다른 여러 국가도 호주를 따르고 유사한 제한에 대한 규칙과 규정을 준비할 예정입니다.

AI-문맹

그리고 2026년부터 아동 보호에 관심을 갖고 있는 다양한 유엔 기구들이 공동 성명 인공 지능과 아동 권리에 관해, 1월 19일에 출판된 이 보고서는 위험과 그에 대처할 수 있는 사회의 집단적 무능력을 설명하는 데 있어 모든 노력을 다했습니다.

성명서는 어린이, 교사, 부모, 보호자의 AI 활용 능력이 부족할 뿐만 아니라 정책 입안자와 정부를 위한 AI 프레임워크, 데이터 보호 방법 및 아동 권리 영향 평가에 대한 기술 교육이 부족하다는 점을 지적합니다.

거대 기술 기업의 책임

기술 회사들도 그 틀에 속해 있습니다. 성명서는 그들이 만드는 대부분의 AI 지원 도구(기본 모델, 기술 및 시스템 포함)가 현재 어린이와 그들의 행복을 염두에 두고 설계되지 않았다고 말했습니다.

“우리는 정말 우려하고 있으며 민간 부문이 기술이 가능하게 할 수도 있지만 파괴할 수도 있다는 것을 인식하는 다른 UN 기관 및 다른 주체들과 함께 우리가 작성하고 있는 이야기의 일부가 되기를 바랍니다.”라고 Zawazawa씨는 말합니다.

그러나 UN 고위 관리들은 이들 기업이 장치 보안을 유지하기 위해 최선을 다하고 있다고 확신합니다.

“처음에는 그들이 혁신을 방해하는 것을 걱정한다고 생각했지만 우리의 메시지는 매우 분명합니다. 책임 있는 AI 배포를 통해 여전히 이익을 얻을 수 있고, 사업을 할 수 있으며, 시장 점유율을 얻을 수 있다는 것입니다.

“민간 부문은 파트너이지만 원치 않는 결과를 초래할 수 있는 상황이 발생하면 경고 신호를 보내야 합니다.

우리는 그들의 책임에 대해 이야기하는 정기 회의를 갖고 있으며, 그들 중 일부는 이미 주민과 어린이를 보호해야 하는 방법에 대한 성명을 발표했습니다. 기술과 함께 오는 악에 맞서 함께 싸우는 것이 우리의 의무입니다.”

아동 권리 문제

문서에 명시된 UN 기관(전체 목록은 아래 참조)은 이들 기업이 자사 제품이 아동 권리를 존중하도록 설계해야 한다고 강조하는 한편, 사회의 모든 부분에서 제품이 사용되는 방식에 대해 책임을 지도록 요구하고 있습니다.

권리 관점에서 우려가 제기된 것은 이번이 처음이 아닙니다. 2021년에는 디지털 시대의 위협을 반영하기 위해 국제 아동 권리법의 초석이자 역사상 가장 많이 비준된 인권 조약인 아동 권리 협약에 새로운 문구가 추가되었습니다.

그러나 UN 기구는 국가들이 보다 효과적으로 규제할 수 있도록 더 많은 지침이 필요하다고 생각하고 포괄적인 권장 사항 목록을 작성했습니다.

Zawazwa씨는 “아이들은 더 이른 나이에 온라인에 접속하므로 보호되어야 합니다. 이것이 바로 우리가 이러한 어린이의 온라인 안전 지침을 마련한 이유입니다. 지침의 첫 번째 부분은 부모를 위한 것이고, 두 번째는 교사를 위한 것이고, 세 번째는 규제 기관을 위한 것이고, 네 번째는 산업 및 민간 부문과 관련이 있습니다.”라고 말합니다.