십대들이 여학생과 여교사의 성적인 합성 이미지를 만들고 이를 서로 거래하거나 공유하고 있다.
이들은 반 단체 사진을 바탕으로 자신만의 ‘DIY 포르노 허브’를 만들며, 새로운 형태의 디지털 학폭이 확산시키고 있다.
성희롱 피해를 겪는 여교사들은 직장을 떠나고, 피해 여학생들은 학교를 기피하는 등 심각한 결과를 낳고 있다.
공포 속에 사는 여학생들
여성 권익 단체 컬렉티브 샤우트(Collective Shout)의 공동 창립자 멜린다 탱커드 라이스트(Melinda Tankard Reist)는 지난해 매기 덴트(Maggie Dent) 교육자와 함께 1000명의 호주 여교사를 대상으로 한 성적 괴롭힘 조사에서 ‘딥페이크’ 이미지가 학교 내의 사진을 이용해 만들어지고 있다고 밝혔다.
AI 합성을 통해 학생 사진이 성적 이미지로 변형되고 있다며 경고했다.
그는 ‘AI 누드화 앱이 어린 소녀를 포함한 여성을 공격하는 무기로 쓰이고 있다’며, ‘2달러면 누구든 여성을 누드로 만드는 프로그램을 살 수 있다’고 말했다.
“많은 소녀들이 자신이 이런 일을 당할까 봐 두려워하고 있다. 이렇게 쉽게 접근할 수 있는 도구들은 여성에 대한 폭력의 촉진제가 되고 있으며, 비동의 성행위를 정상화시키고 소년들이 자발적인 포르노 제작자로 변하게 만든다.”
일부 학생들이 성차별적 괴롭힘을 인공지능을 활용하여 증폭시키고 있는 것이다.
AI로 만든 ‘종류별 여성 목록 앱’
아동 성범죄 피해자를 돕는 Act4Kids는 12세 소년이 ‘결혼할 여자, 성관계할 여자, 죽일 여자’를 분류하는 앱을 사용한 사례를 소개했다.
이 앱은 학급 여학생 명단을 AI로 평가하는 기능을 갖고 있으며, 10대들의 여성 혐오가 AI기술을 통해 증폭되고 있음을 보여준다.
파티에서 찍은 사진을 성착취 이미지로
Act4Kids의 치료 및 전문가 서비스 담당자인 미란다 베인(Miranda Bain)은, 한 17세 소녀가 학교에서 괴롭힘을 당한 사례를 소개했다.
한 남학생이, 파티에서 술에 취해 찍은 소녀의 사진을 이미지 생성기에 넣어 성적인 자세를 취한 딥페이크 이미지를 만들었고, 그 이미지들은 학교에 퍼져나갔다고 밝혔다.
“그 17세 소녀는 파티에서 성적인 자세를 취하지 않았지만, 그런 이미지가 학교에 돌아다니게 되었다.” 미란다 베인 씨는 말했다. “그 파티에 다른 아이들도 있었기 때문에 마치 그런 상황이 정말 일어난 것처럼 보이게 되었다.”
멜린다 탱커드 레이스트는 AI가 사회적 미디어에 올려진 순수한 이미지나 학교 공식 사진을 쉽게 성적인 콘텐츠로 변형할 수 있다고 경고했다.
“옷을 벗기는 것뿐만 아니라, 여성을 특정 성적 장르로 변형할 수 있다.” “여성을 묶고, 임신한 모습으로 만들고, 성적 노예로 만들 수도 있다.” 그는 또한 십대들이 이러한 이미지를 다른 학교의 학생들에게 판매하고 있다고 말했다.
“이 이미지들이 매우 현실적이라, 다른 사람들은 그것이 AI로 만들어진 것이라고 믿기 어려울 때가 많다. 그리고 현재 법은 이를 따라가지 못하고 있다.”
탱커드 라이스트는 이러한 이미지가 다른 학교 학생들 간에도 거래되고 있으며, 그 사실을 주변에 해명하기 어려운 경우가 많다고 말했다.
학교 안에서 AI성폭력 확산
온라인 안전 교육 및 컨설팅 조직 Ctrl+Shft의 공동 창립자 키라 펜더가스트(Kirra Pendergast)는 최근 10대 학생들이 동급생이나 교사를 대상으로 딥페이크 이미지를 생성한 사례를 8개 학교로부터 보고받았다고 밝혔다.
한 학교에서는 소셜 사진 수백 장이 성적인 이미지로 변조된 ‘사적인 포르노 허브’가 발견됐고, 남학생 한 명이 퇴학당했지만 증거가 삭제돼 법적 처벌은 없었다.
또 다른 여학생은 온라인 스토리텔링 앱에서 실명과 동급생 이름이 등장하는 성적 픽션에 등장해 큰 충격을 받았다. 그는 부끄러움에 학교에 가지 않고 있으며, 이러한 2차 피해는 점점 늘고 있다.
올해 3월 NSW 의회 조사에서 탱커드 라이스트는, 학생들의 숙제를 위한 그룹채팅이 비밀리에 ‘변태적이고 폭력적인 포르노’를 공유하는 장으로 변질되는 사례를 보고했다.
그는 “내가 매년 수천 명의 학생들을 만나면서 느낀 바로는, 상황이 점점 더 악화되고 있으며, 점점 더 어린 나이에 시작되고 있다.” 며, 학교들이 ‘폭력의 장소’가 되고 있다고 말했다.
탱커드 라이스트는, 교사들이 학생 단톡방이 곧잘 ‘일탈 포르노 공유방’으로 변질되고, 학교가 학대의 현장이 되고 있다고 증언하며, 8~9세 여학생들도 ‘학교에서 안전하지 않다’고 말할 정도로 상황이 악화됐다고 밝혔다.
학교와 정부의 과제
앤소니 알바니즈(Anthony Albanese) 정부는 학교 내 괴롭힘 실태를 조사 중이며, 임상 심리학자 샬럿 키팅(Charlotte Keating)과 조 로빈슨(Jo Robinson)이 조사를 이끌고 있다.
정부는 7,760만 달러를 투입해 ‘관계 존중 교육’을 확대하고 있다. 법무장관 미셸 로우랜드(Michelle Rowland) 대변인은 지난해 형법을 개정해 딥페이크 성적 이미지 유포 시 최대 6년형, 제작‧유포 시 7년형을 부과한다고 밝혔다.
연방 교육장관 제이슨 클레어(Jason Clare)는 모든 학생과 교직원이 안전해야 하며, 모든 학교에 휴대폰 사용을 금지시켰다고 밝혔다.
그는 ‘학교에서 시작되는 학생들간의 괴롭힘은, 개입과 지원이 가능’하다며, 전국 공통 기준을 개발 중이라고 전했다.
이경미(Caty)기자 kyungmi@koreanherald.com.au
