편집자주 :
이번에 소개할 자료는 트랜스젠더 인권단체인 GATE(Global Action for Trans Equality)에서 2025년 10월, 유엔 여성차별에 관한 실무 그룹이 주최한 성평등, 디지털 공간 및 인공지능 시대에 대한 의견 수렴에 제출한 보고서입니다. 해당 보고서는 얼굴인식, 생체인식을 통한 감시와 식별, 그리고 생성형 인공지능 기술이 이분법적 성별 분류를 가정하고 또 강제함으로써 트랜스젠더 및 젠더 다양성을 지닌 사람들이 체계적으로 차별받는지에 대해 이야기합니다. 이러한 차별과 피해는 단순한 기술적 결함이 아닌 배제, 배타적 설계, 편향된 데이터, 정치적 오용이 낳은 구조적 결과이며 추후 포용적으로 나아가기 위해 젠더 포용적인 인공지능 거버넌스와 규제가 필요성을 확인할 수 있습니다.
번역오류는 policy 골뱅이 digitaljustice.kr 으로 알려주세요.
제목 : 인공지능이 트랜스젠더 커뮤니티에 끼치는 해악
원문제목 : How is Artificial Intelligence harming trans communities?
원문링크 : https://gate.ngo/wp-content/uploads/2026/01/Submission_-Gender-Equality-the-Digital-Space-and-the-Age-of-Artificial-Intelligence.pdf
일시 : 2025년 10월 28일
작성 : GATE – Global Action for Trans Equality
성별 이분법적 분류를 강제하는 얼굴 인식 시스템과 폭력을 조장하는 인공지능 기반 허위 정보 캠페인까지, 인공지능시스템은 전세계 트랜스젠더 및 젠더 다양성 공동체에 대한 체계적 차별의 수단이 될 수 있습니다. 인공지능이 우리의 일상 생활과 의료, 고용, 안전, 사회 서비스 등의 제도적 의사결정과정에 빠르게 결합됨에 따라, 본 보고서(submission)는 국가, 기업 그리고 혐오세력과 같은 다양한 주체들의 인공지능 활용 방식이 젠더 기반 폭력과 트랜스젠더 및 젠더 다양성 공동체에 대한 차별을 증가시킬 위험이 있다는 것을 보여줍니다. 인공지능 시스템은 중립적인 도구가 되는 대신, 인간의 편견과 선입견을 강화해 사회적 편견을 기술적 차별로 전환시킬 수 있습니다. 이는 생체정보를 통한 감시, 데이터 알고리즘, 생성형 인공지능이 만들어 낸 글과 시각 자료들과 동일한 메커니즘으로 발생합니다. 아무런 개입이 없다면 인공지능은 트랜스젠더 및 젠더 다양성 공동체를 공격하는 무기로 계속해서 남아있을 것입니다. 이러한 개입은 트랜스젠더 및 젠더 다양성 공동체의 목소리와 경험들을 중심에 두고 인공지능 개발 과정에서 유효한 대표성을 의무화하고 차별적 관행에 대한 책임성 있는 메커니즘을 구축하며 디지털 공간에서 진정으로 존재할 권리가 인간 존엄성의 근간임을 인식해야 합니다.
1. 안티젠더 세력의 운동에서 인공지능까지 이어지는 차별의 디지털 파이프라인
GATE의 트랜스젠더 및 젠더 다양성과 광범위한 LGTBQI 운동에 대한 안티젠더 세력의 영향에 관한 글로벌 보고서(2023)에 따르면, 응답자들이 직면한 가장 일반적인 문제 중 하나가 안티젠더 세력이 디지털 플랫폼을 체계적으로 사용하여 (systemic use) 트랜스젠더와 젠더 다양성 공동체에 대한 허위정보를 유포하는 것이었습니다. 페이스북이나 트위터와 같은 소셜 미디어 플랫폼은 많은 경우 인공지능 도구를 사용하여 특정한 콘텐츠가 커뮤니티 가이드라인에 위배되는지 그 여부를 판단하는데, 이러한 플랫폼은 안티젠더 세력이 트랜스젠더 공동체를 겨냥하여 의도적으로 오해될 소지가 있는 정보를 유포하는 주요 수단이 되었습니다.
안티젠더 운동은 “가족 가치”, “아동 보호” 또는 “여성의 공간 보호”와 같은 담론을 트랜스젠더의 존재를 직접적으로 겨냥하는 수사적 무기로 활용해 광범위한 대중에게 영향을 미치고 취약 계층에 대한 폭력과 그 선동을 조장합니다. 소셜 미디어에는 커뮤니티 가이드라인이 존재하지만, 이러한 플랫폼들은 콘텐츠 중재 정책을 적절히 집행하지 못하는 경우가 많습니다. 활동가들이 안티젠더 세력의 허위 및 유해 게시물을 정기적으로 신고하지만 이는 자주 묵살되며 온라인 공간에 고스란히 남아 있습니다 (GATE, 2023, pp. 17-22).
결과적으로 트랜스젠더 및 젠더 다양성 공동체 응답자들이 꼽은 가장 큰 세 가지 영향은 다음과 같습니다. 1. 광범위한 번아웃으로 이어지는 트랜스젠더 활동가들의 심리적, 정신적 스트레스. 2. 안티젠더 담론에 영향을 받은 의사결정권자에게 접근하기가 어려워지며 그 결과 트랜스젠더 관련 프로그램들에 대한 자금 지원이 제한됨. 3. 이러한 요인들로 인해 트랜스젠더 및 젠더 다양성 공동체가 주도하는 조직들, 행사들 또는 의료 및 심리 지원과 법률 지원 같은 필수적 서비스가 일시 중단되거나 폐쇄됨 (GATE, 2023).
기관들이 커뮤니티 기준에 위배되는 소셜 미디어 게시물을 판별하거나 의료 서비스, 고용 기회 등 중대한 결정을 내리는 데 기계학습을 사용하는 인공지능 시스템에 점차 의존함에 따라 (Stanford Social Innovation Review [SSIR], 2021) 안티젠더 담론과 편향된 AI시스템 간의 연관성이 더 뚜렷해지고 있습니다.
유엔개발계획(UNDP) 보고서에서 경고하듯이, 논바이너리 및 다양한 성적 지향, 젠더 정체성, 젠더 표현과 특성 (SOGIESC)을 가진 사람들처럼 제대로 대표되지 못하는 성소수자들은 잘못 설계되고 배치된 인공지능 시스템으로 인해 심각한 피해를 입습니다 (UNDP, 2024, p. 16). 영국 정부의 ‘기술 매개 젠더 기반 폭력 보고서(TFGBV) (2023)’는 여성 언론인의 73%가 온라인 상의 폭력을 경험했으며 트랜스젠더들이 기술을 매개로 한 젠더 기반 폭력에 불균형적으로 직면하고 있다고 지적합니다. (UK Government, 2023)
1.1 얼굴 인식과 생체정보를 통한 감시
근본적인 문제는 인공지능 시스템이 인간의 선입견에서 비롯된 성별 이분법적인 가정을 고스란히 물려받는다는 점입니다. 성별 분류 시스템이 성별을 ‘남성’과 ‘여성’이라는 단순한 범주로 축소시키면, 인공지능이 젠더 유동성과 개인이 스스로 정의하는(또는 인식하는) 젠더 정체성을 반영할 수 있는 여지가 완전히 사라지게 됩니다 (SSIR, 2021). 포브스(2021)가 지적했듯 유동적인 젠더 정체성을 인식하지 못하는 프레임워크 속에서 존재하는 상용 데이터 스택에 의존하는 AI시스템은 퀴어에 대한 정의 자체가 불가능합니다. 이러한 구조적 결함은 AI시스템이 LGBTQI 구성원을 제대로 지원할 수 없으며 결과적으로 설계 단계부터 알고리즘에 의한 차별을 조장하는 셈입니다.
인공지능 시스템에서 트랜스젠더 정체성이 지워지는 것은 알고리즘적 배제를 넘어 트랜스젠더의 삶의 모든 측면에 영향을 미치는 현실 세계에서의 차별을 보여줍니다. McAra-Hunter(2024)는 고용과 신용 평가에 배치된 인공지능 시스템이 편향된 학습 데이터로 인해 퀴어 지원자를 의도치 않게 차별할 수 있다는 걸 보여주었습니다.
트랜스젠더들이 직면하는 인공지능 기반 차별의 핵심 사례 중 하나는 생체정보를 통한 인식 및 감시 시스템입니다. 이러한 시스템은 성별 이분법적 분류를 강제하고 능동적으로 성별을 통제해 트랜스젠더들에게 실질적인 피해를 입히고 있습니다. 젠더 셰이즈(Gender Shades) 연구에 따르면 얼굴 인식 기술은 시스젠더 여성의 경우 98.3%, 시스젠더 남성의 경우 97.6%의 정확도를 보였지만 트랜스젠더 남성은 38% 확률로 여성으로 잘못 분류되었습니다. 또한 에이젠더(agender), 젠더퀴어 또는 논바이너리 개인들은 100% 확률로 오인되었습니다(University of Colorado. 2019; Gender Shades, 2018)/
더 나아가 사기업들은 인공지능 기술을 활용해 트랜스젠더들이 기본적인 서비스와 사회 참여에서 배제될 위험을 가져오는 방식으로 기술을 배치하고 있습니다. 예를 들어 우버의 AI 인증 시스템은 트랜스젠더 운전자가 트랜지션 과정에서 외모가 변할 경우 반복적으로 계정을 정지시킵니다(CNBC, 2018). 공항 보안 시스템은 성별을 이분법적으로만 분류하여 성별의 다양성과 복잡성을 제대로 반영하지 못합니다 (Washington Post, 2021).
이러한 기술적 실패가 국가 신분 확인 시스템에 도입될 경우, 국가 차원의 차별 도구로 전락하여 트랜스젠더들이 기본적인 시민으로서의 인정 받거나 보호 받는 것을 불가능하게 만들 수도 있습니다.해당 기술은 이들의 현재 모습과 예전 신분증 사진을 일치시키지 못하는 경우가 잦아 오인, 배제, 나아가 추가적인 낙인 효과로 이어지기 때문에 이러한 악영향은 트랜스젠더 및 젠더 다양성을 지닌 사람들에게 특히 가중됩니다 (The Swaddle, 2021).
인도에서는 트랜스젠더 국가 포탈(National Portal for Transgender Persons)을 통해 트랜스젠더 개인을 위한 증명서와 신분증 발급을 시작했습니다. 그러나 2022년 보도(Scroll)에 따르면, 2011년 인구조사에서 파악된 인도의 트랜스젠더 인구가 약 50만명에 달하는 것에 비해 포탈의 신청자는 9,604명에 불과한 것으로 나타났습니다. 신청에는 최대 6개월이 걸릴 정도로 크게 지연되고 있으며 상당수가 반려되고 있습니다 (Bansal, 2022). 트랜스젠더의 신분증 발급과 관련된 해당 보도가 인공지능의 활용과 직접적인 연관이 있는 건 아니지만 주요한 문제점을 시사합니다. 정부 기관에서 신분증이나 사진을 증명사진을 검증하는 과정에서 얼굴인식 기술(FRT)시스템을 도입할 경우, 시간이 지나며 외모가 변하거나 과거 신분증 사진과 현재의 모습이 다를 수 있는 트랜스젠더 및 젠더 다양성을 지닌 사람들은 얼굴 특징에 대한 불일치로 인하여 오인되거나 배제될 위험이 매우 큽니다.
마찬가지로 2018년에 네팔에 도입된 디지털 생체인식 시스템인 NID(National Identity Card) 또한 배제적인 설계의 전형을 보여줍니다. 해당 시스템은 “남성”과 “여성”이라는 성별 이분법적인 외양과 복장 기준을 내세워 본질적으로 배제적이며, “기타(other)” 정체성을 가진 사람들에게는 아무런 명확한 기준도 제시하지 않습니다 (ILGA Asia, 2025, p. 6)
또한 얼굴인식 기술 연구와 그 적용의 윤리적인 측면에 있어 트랜스젠더 및 젠더 다양성을 지닌 사람들을 연구자와 기관이 어떻게 개념화해야 하는지에 대한 구체적 우려도 제기됩니다. 예를 들어 “성전환 진행 중”인 사람들을 식별하려는 호르몬 대체 요법 (HRT) 데이터베이스의 시도는 성별 전환이 복합적이고 지속적인 과정이라는 점을 간과하여 “전환 전(pre-)”,
“전환 후(post-transition)”라는 또 다른 층위의 성별 이분법적인 구분을 만들어냈습니다.
트랜스젠더에 대한 혐오 폭력 발생률이 높은 국가에서 얼굴인식 기술을 도입하는 것에도 심각한 우려가 있습니다. 브라질은 살해당하는 트랜스젠더의 비율이 가장 높은 국가로, 2020년에 41% 증가했습니다. 7,600만 건의 전 국가적 운전면허증을 관리하는 SERPRO 얼굴인식 시스템의 도입은 젠더에 따른 디지털 차별에 대한 우려를 가져왔습니다. 설문에 따르면 트랜스젠더 활동가의 90.5%는 얼굴인식 기술이 트랜스젠더 혐오적으로 작동한다고 대답했으며 95.2%는 시스템이 수치심을 유발, 76.2%는 사생활을 침해하고 위협하며 66.7%는 해당 시스템의 광범위한 사용에 반대하는 것으로 나타났습니다 (Privacy International, 2024).
얼굴인식과 생체정보는 국가 차원의 감시만 문제인 것이 아닙니다. LGBTQIA+ 개개인의 디지털 발자국 또한 감시와 프로파일링에 활용될 수있습니다. 민감한 개인정보의 유출이나 오용의 가능성을 높이고 괴롭힘, 폭력, 아웃팅과 같은 심각한 문제를 초래할 수도 있습니다. 예를 들어 미국의 클리어뷰 AI(Clearview AI) 사건은 규제되지 않은 얼굴인식 기술의 전세계적 파급 효과를 보여줬습니다. 클리어뷰 AI는 소셜미디어에서 수십억 개의 이미지를 수집하여 얼굴인식 검색 엔진을 구축했고, 나아가 얼굴 인식을 통해 약물 사용자인지, 홈리인지, 정신 질환이 있는지에 대한 여부를 판별하는 시스템에 대한 특허를 확보했습니다. 미국 시민자유연맹(ACLU)이 클리어뷰를 상대로 제기한 소송에서는 성노동자, 학대 피해자, 미등록 이민자 등 감시 기반 차별에 특히 취약한 사람들의 프라이버시 침해 문제가 부각되었습니다(ACLU, 2021).
인공지능은 트랜스젠더 및 젠더 다양성을 지닌 사람들을 사회적 공간에서 배제하기 위한 도구로 무기화(weaponized)되었습니다. 트랜스젠더 배제적인 최초의 레즈비언 어플리케이션 중 첫 번째였던 ‘Giggle for Girls‘는 2019년 샐 글로버에 의해 개발되었고 2022년 8월 총 2만 명의 회원을 유지한 채 운영을 중단했습니다. 이후 개발된 ‘L Community’ 앱은, ’성별 인식 소프트웨어‘를 사용하여 트랜스젠더 배제적인 ’여성 전용‘ 레즈비언 공간을 조성했으며 인식의 정확도가 99.89%라고 주장했습니다(Washington Blade, 2024; The Guardian, 2022).
이러한 사례들은 자동 성별 인식(AGR) 기술의 도입이 인간의 대부분의 상호작용에서 널리 보편화될 수 있다는 잠재적 위험성을 보여줍니다. 전 세계적으로 반(反)LGBTIQ+ 법안이 등장하고 편향된 인식 시스템이 도입됨에 따라, 기차역이나 화장실, 탈의실에 이르기까지 트랜스젠더가 공공장소에 존재할 수 없는 디스토피아적 현실이 눈앞에 펼쳐질 가능성이 있으며 이는 트랜스젠더 및 다양한 젠더 정체성을 지닌 사람들이 안전을 위협받고, 모욕감을 느끼며, (원치 않게 정체성이) 노출되는 상황을 야기할 수 있습니다(Cato Institute, 2021).
2. 트랜스젠더와 젠더 다양성 공동체를 대상으로 한 기술 매개 젠더 기반 폭력
인공지능을 정치적으로 무기화하는 것은 반(反)트랜스젠더 캠페인에서 새로운 국면을 열어 국가 기관과 정치적 움직임들이 차별적 관행을 조장하는 것에 정교한 기술을 사용
국가 기관과 특정 정치적 주체들은 정교한 기술을 이용해 차별적 행위를 조장함으로써 인공지능을 정치적으로 무기화하며 반(反)트랜스젠더 캠페인을 새롭게 펼치고 있습니다.
2024년 미국 선거에서는 트랜스젠더의 권리를 공격하는 전례 없는 인공지능 생성 허위 정보가 등장했습니다. 공화당 광고의 70%가 생성현 인공지능이 만들어낸 이미지와 딥페이크로 강화된 반(反)트랜스젠더 메시지를 포함했으며, 조작된 동영상과 합성된 “디트랜지셔너(성별 역전환자)”의 증언을 만들어냈습니다(PBS NewsHour, 2024). 최근 몰도바 선거 기간에는 유권자들에게 맞춤형 반(反)트랜스젠더 내러티브를 전달하는 데 러시아 챗봇이 사용되었으며, 특히 부모들에게 트랜스젠더 청소년에 대한 허위 정보를 제공하는 데 주된 목표가 있었습니다(Euronews, 2025).
우크라이나 LGBTI 컨소시엄 (LGBTI Consortium Ukraine) (2024) 은 인공지능 시스템이 러시아의 개입 없이도 이미 소외된 집단에 대한 편향성을 보여주고있지만, “프라우다(Pravda)” 네트워크가 이른바 ”LLM그루밍“ 기법을 사용해 360만 건의 반LGBTI 게시글들을 훈련 데이터 세트에 주입했다고 경고했습니다. 이처럼 인간이 아닌 인공지능을 대상으로 설계된 콘텐츠로 인해 챗봇 응답의 33%가 LGBTI 커뮤니티에 반하는 ’전통적인 가치들‘과 같은 러시아의 허위 정보를 포함하고 있는 것으로 나타났습니다.
미국에서 총기 난사 사건이 발생한 이후, 비극을 악용하여 트랜스젠더 구성원들을 극단적 총기 범죄자처럼 묘사하는 인공지능 생성 기반 허위 정보들은 가장 해로운 기술 활용 사례 중 하나입니다. 로이터(2023) 팩트체커는 총기 난사 및 폭력을 트렌스젠더 정체성과 연결시키려는 허위 정보가 널리 퍼져있음을 밝힌 바 있습니다. 이처럼 인공지능 기술을 통해 비극적인 사건을 조작하여 트랜스젠더를 폭력과 연관시키려는 것은 기술이 어떻게 도덕적 공황을 증폭시키는지 보여줍니다.
트랜스젠더에 대한 허위 정보를 유포하기 위한 인공지능의 무기화는 상호 연결된 다수의 메커니즘을 통해 작동하며, 각각의 메커니즘은 트랜스젠더의 삶과 권리를 위협하는 유해한 내러티브를 더욱 강화합니다.
저스트 테크(Just Tech, 2024)는 반(反)트랜스젠더 유사과학 연구가 성별 확정 치료(gender-affirming care)에 대한 검색 결과를 어떻게 장악하고 있는지 보고했으며, 특히 전환 치료를 옹호하는 반(反)LGBTQ+ 단체인 “미국 소아과학회(American College of Pediatricians)”의 자료가 그 검색 결과의 중심에 있음을 지적했습니다. 또한 카이저 가족 재단(Kaiser Family Foundation, 2024)은 치료를 후회하는지에 대한 조작된 통계와 의학적 개입에 대해 날조된 위험성을 포함해, 인공지능으로 강화된 정보 유포 네트워크를 통해 성별 확정 치료에 대한 수많은 허위 주장이 확산되고 있음을 확인했습니다.
또한 카스 보고서 (Cass Report, 2020년 영국 국민보건서비스NHS가 의뢰하고 소아과 전문의 Cass 박사가 주도해서 2024년 최종 발간된 보고서로, 영국 내 트랜스젠더 및 젠더 다양성 청소년들을 다뤘지만 여러 비판을 받음. 편집자 주) 에 수록된 젠더 비순응 청소년 이미지가, “학교 복도에 있는 논바이너리 청소년” 이라는 제목의 어도비 스톡 포토의 생성형 인공지능 이미지라는 것이 역-이미지 검색(reverse image search)을 통해 확인되면서 트랜스젠더 청소년이 실제로는 존재하지 않는다는 거짓된 시각적 내러티브를 만들어냈고 트랜스젠더 청소년의 의료 접근성에 제약을 가하는 영국의 정책에 영향을 미쳤습니다(PinkNews, 2024).
인공지능 생성 허위 정보의 또다른 주요 예시는 “트랜스베스티게이션(transvestigation)” 현상입니다. 이는 무기화된 인공지능 도구가 트랜스젠더 혐오 발언을 퍼뜨리는데 어떻게 악용되는지를 보여줍니다. 시스젠더 공인들이 사실은 트랜스젠더라는 허위 주장을 제기하기 위해 인공지능 도구들이 활용되어 왔습니다. 대표적 사례로 프랑스 영부인 브리짓 마크롱을 젊은 남성처럼 보이게 한 이미지가 있는데, 이는 인공지능으로 조작된 이미지였습니다(로이터, 2024). 미셸 오바마를 대상으로 한 유사한 캠페인에서도 조작된 사진들이 소셜 미디어 플랫폼에 퍼졌습니다(야후 뉴스, 2024). 이러한 공격들은 트랜스젠더라는 것 자체가 본질적으로 부정직하거나 수치스러운 것이라는 인식을 심어주려는 차별적 목적을 갖고 있음과 동시에 영향력 있는 여성들을 소외된 정체성과 거짓으로 결부시켜 폄훼하려는 시도입니다.
3. 젠더 포용적인 인공지능을 향한 길과 디지털 공간 거버넌스
본 보고서에 제시된 실제 예시들은 인공지능 시스템이 중립적인 기술이 아니며, 인간이 가정하고 있는 성별 이분법과 편견을 증폭시켜 트랜스젠더 및 젠더 다양성을 지닌 사람들에 대한 차별을 초래할 수 있음을 보여줍니다.
이같은 악순환을 끊으려면 젠더 다양성 공동체를 기술 개발에서 배제하는 구조적 불평등과 인공지능이 차별을 영구화시키려는 메커니즘 모두를 해결해야 합니다.
유엔개발계획(UNDP) 보고서(2024, 57-58p)는 생성형 인공지능 개발자에 대한 젠더 감수성 교육 부족을 주요 요인으로 지적했습니다. 개발자와 연구자 간 협력 부족, 인공지능 분야 종사자 중 여성과 트랜스젠더 및 젠더 다양성을 지닌 이들의 비율이 낮은 점 등이 복합적으로 작용하여 생성형 인공지능 모델은 설계 단계부터 다양성이 부족합니다. 디지털 배제를 경험하는 사람들이 학습 데이터셋에서도 배제될 경우, 인공지능 시스템은 주류 특권층에 최적화된 형태로 학습하게 되고 이미 차별을 맞닥뜨리고 있는 사람들을 더 소외시키게 됩니다.
인공지능의 기술적 오류와 생체인식 감시가 소외된 공동체에 미치는 악영향을 해결하려는 여러 시도들이 있었습니다. 예를 들어 유럽연합은 인공지능법(AI Act)를 통해 이러한 문제를 다루고 있는데, 해당 법은 성적 지향이나 성 정체성을 추론하는 생체인식 분류를 금지하고 트랜스젠더들이 인공지능 기술과의 상호작용에서 어려움을 겪는다는 것을 인정하고 있습니다(EU AI act, 2023).
권고사항
회원국들은:
- 인공지능 시스템이 인권 프레임워크에 부합하고 성 정체성 및 젠더 표현에 기반한 차별을 조장하지 않도록 보장하는 국제 및 국내 규범의 채택을 지지해야 합니다.
- 개인정보 보호, 차별 금지 원칙, 인권 실사 의무를 포함해 성적 지향, 젠더 정체성, 젠더 표현과 특성을 포괄하는 안전장치를 인공지능 거버넌스 프레임워크에 통합하는 것을 지원해야 합니다.
- 공공 행정, 법 집행, 사회 보장 서비스에 사용되는 모든 인공지능 시스템에 대해 인권 영향 평가를 의무화하고 특히 트랜스젠더 및 젠더 다양성을 지닌 사람들에게 미치는 영향을 명시적으로 평가해야 합니다.
- 소셜 미디어 기업들이 콘텐츠 조정/검열 시스템에 대한 정기적이고 독립적인 감사를 실시하여 인공지능 도구가 트랜스젠더 사용자를 시스템적으로 침묵시키거나 불이익을 주지 않도록 해야 합니다.
- 정치 광고에서의 투명성을 요구로 하는 규제 프레임워크를 개발하고, 소외 계층을 표적으로 삼는 인공지능 기반 허위 정보 또는 딥페이크의 사용을 금지시켜야 합니다.
- 트랜스젠더 단체가 주도하는 디지털 리터러시 및 허위 정보 대응 활동을 지원하여, 공동체의 구성원들이 인공지능이 생성한 허위 콘텐츠를 식별하고 이에 대응할 수 있는 도구를 갖출 수 있도록 지원합니다.
- 인공지능 거버넌스, 윤리 및 규제와 관련된 모든 의사 결정 과정에서 트랜스젠더의 대표자성을 보장해야 합니다.
- 트랜스젠더 단체들이 디지털 권리 옹호, 연구 및 정책 감시에 참여할 수 있도록 재정적이고 기술적인 지원을 제공해야 합니다.
- 특히 적대적인 법적 환경에서 트랜스젠더, 트랜스젠더 및 젠더 다양성을 지닌 개인들의 안전을 위해서는 필수적으로 온라인에서의 익명성과 개인정보 보호를 지원해야 합니다.
인공지능 기업들과 소셜 미디어 플랫폼들은 :
- 모든 인공지능 기반 신원 확인 및 검증 도구에 자신이 결정할 수 있는 성별 선택 및 논바이너리 옵션을 포함하고, 공공 및 민간 개발자들이 젠더 포용적인 데이터셋을 채택하여 성별 이분법적 가정을 강제하고 있는 학습 데이터를 사용하지 않도록 해야 합니다.
- 데이터 출처, 설계 과정, 젠더 정체성 및 젠더 표현과 관련된 오류율 공개를 포함해, 알고리즘 기반 의사 결정 과정의 투명성을 보장해야 합니다.
여성 차별과 관련된 실무 그룹들은 :
- 각국의 정부와 기술 기업들이 팩트체킹 네트워크 및 트랜스젠더 주도 단체와 협력하여 트랜스젠더 혐오와 관련된 허위 정보 유포 캠페인을 감시하고 이에 대응할 수 있도록 요구해야 합니다.
- 유엔 기구(유엔인권위, 유엔여성기구, 유네스코, 국제전기통신연합)가 인공지능과 젠더 다양성에 관한 공동 프레임워크를 채택하고 특히 트랜스젠더 및 젠더 다양성 보호를 강조하도록 요구해야 합니다.
