편집자주 :
공공 영역에 들어오는 인공지능 기술들은 공공기관의 서비스 제공 방식, 의사 결정 방식 그리고 시민과의 상호작용 방식을 근본적으로 바꾸고 있습니다. 강한 책무와 함께 활용된다면 공공 서비스 개선과 투명성과 포용성 강화 등 새로운 길을 열어줄지도 모르지만, 한편으로는 심각한 인권 침해의 위험을 내포하고 있습니다. 이번에 소개할 것은 유엔 인권이사회 자문위원회에서 발표한 보고서로, 대량감시, 알고리즘에 의한 차별, 불투명하고 자동화된 의사 결정, 정보 환경의 왜곡, 대체되는 노동과 해고, 환경 피해에 이르는 인권 상의 위험을 두루 다루고 있습니다. 해당 보고서는 유엔 6개 공식 언어 (한국어는 없습니다…)로 번역되어 확인할 수 있으며 이번 해외정보인권 글에서는 해당 보고서의 권고사항 부분을 소개합니다.
번역오류는 policy 골뱅이 digitaljustice.kr 으로 알려주세요.
제목 : 인공지능과 좋은 거버넌스 보고서
원문제목 : Impact of artificial intelligence systems on good governance : study of the Human Rights Council Advisory Committee
원문링크 : https://digitallibrary.un.org/record/4116034?ln=en&v=pdf
일시 : 2026년 6월
작성 : 유엔 인권위원회 자문위원회
IV. 권고사항 (Recommendations)
A. 국가(States)
63. 국가는 공공행정에서 AI 사용을 규율하는 포괄적인 입법 및 규제 체계를 마련해야 한다. 이러한 체계에는 AI 도입 전과 도입 후 정기적으로 인권영향평가(Human Rights Impact Assessment)를 실시하도록 의무화하고, 알고리즘의 투명성과 설명가능성을 요구하며, 편향성·정확성·국제인권법 준수 여부를 감사할 수 있는 독립적 감독기구를 설치하고, AI 활용으로 인해 인권침해가 발생한 경우 효과적인 조사와 구제수단을 보장하는 내용이 포함되어야 한다.
64. 국가는 공공부문에 AI 시스템을 도입하는 결정 과정에서 의미 있는 공공 참여를 보장해야 한다. 이를 위해 시민사회, 기술 전문가 및 영향을 받는 공동체가 적극적으로 참여하는 투명한 협의 절차를 마련하여, 거버넌스 기술이 다양한 사회적 요구와 가치를 반영하도록 해야 한다.
65. 국가는 프라이버시권, 표현의 자유, 결사의 자유 침해를 방지하기 위해 AI 기반 감시 기술의 사용을 엄격히 규제해야 한다. 또한 모든 활용은 적법성(legality), 필요성(necessity), 비례성(proportionality)의 원칙을 준수해야 하며, 효과적이고 독립적인 사법적 감독을 받아야 한다.
66. 국가는 민주적 절차와 정보 생태계의 무결성을 보호해야 한다. 이를 위해 미디어 및 디지털 리터러시를 증진하고, 정치 광고의 투명성과 AI 생성 콘텐츠의 표시 의무를 요구하며, 인간성 증명(proof of humanity)을 위한 적절한 메커니즘을 검토하거나 허용하고, 정보 다양성을 지원해야 한다. 또한 허위정보(disinformation)에 대응하기 위한 조치가 표현의 자유와 적절한 균형을 유지하고 과도한 검열로 이어지지 않도록 해야 한다.
67. 국가는 사법 절차와 교정시설에서 AI를 활용하더라도 인간의 감독, 절차적 공정성 및 인간의 고유한 존엄성이 유지되도록 해야 한다. 자유를 제한하는 결정에 대해 자동화 시스템에만 의존하는 것을 금지하고, 구금시설에서는 의미 있는 인간적 접촉이 유지되도록 해야 한다.
68. 국가는 AI 기반 자동화가 초래하는 사회·경제적 영향을 선제적으로 대응해야 한다. 이를 위해 교육체계를 개편하고, 재교육(reskilling) 프로그램을 제공하며, 사회보장 체계를 강화하여 노동권을 보호하고 공정한 전환(just transition)을 보장해야 한다.
69. 국가는 데이터센터의 대규모 에너지 및 물 소비, 전자폐기물 발생 등을 포함한 AI 활용의 환경적 영향을 평가하고 완화해야 한다. 또한 AI 기반 거버넌스의 추구가 깨끗하고 건강하며 지속가능한 환경에 대한 권리를 침해하거나 환경 부담을 개발도상국에 전가하지 않도록 해야 한다.
B. 국제사회 (International community)
70. 국제사회는 AI의 포용적이고 공정한 글로벌 거버넌스를 보장해야 한다. 이를 위해 개발도상국과 글로벌 사우스(Global South) 대표들이 국제 표준 제정 과정에 실질적으로 참여하고 동등한 발언권을 가질 수 있도록 보장해야 한다. 또한 지역적 맥락을 반영하지 못하거나 디지털 의존성을 심화시키는 획일적 규제 체계의 강요를 방지해야 한다.
71. 국제사회는 모든 국가, 특히 저소득 국가가 효과적이고 맥락에 적합한 AI 거버넌스 체계를 개발·이행할 수 있도록 역량 강화(capacity-building), 기술 이전(technology transfer), 재정 지원을 제공해야 한다. 또한 디지털 프로젝트에 대한 국제개발원조는 강력한 인권보호 장치의 이행을 조건으로 해야 한다.
72. 국제사회는 새로운 디지털 기술과 인권에 미치는 영향을 모니터링하고 보호조치를 권고하기 위해, 특별보고관(Special Rapporteur) 또는 실무그룹(Working Group)과 같은 전담 유엔 메커니즘의 설립을 검토해야 한다. 또한 AI의 인권 영향과 관련하여 국가들이 구체적 의무를 부담하도록 하는 전용 국제규범 체계의 개발도 고려해야 한다.
C. 기업 (Business enterprises)
73. AI 시스템을 설계·개발·배포하는 기업은 AI의 전 생애주기(life cycle)에 걸쳐 인권을 존중해야 한다. 이를 위해 인권 실사(human rights due diligence)를 수행하고, 알고리즘 편향·차별·프라이버시 침해 위험을 평가하고 완화하며, 영향을 받는 공동체와 협의하고, 개인이 피해를 신고하고 구제를 받을 수 있도록 효과적인 고충처리 메커니즘(grievance mechanisms)을 구축하거나 참여해야 한다.
74. 기업은 포용적이고 공정한 AI를 촉진해야 한다. 이를 위해 인력 구성과 학습 데이터셋을 다양화하여 전 세계적 다양성을 반영하고, AI 도구가 다양한 사회적·문화적·지역적 맥락에 대응할 수 있도록 해야 하며, 역사적 편향을 고착화하거나 디지털 불평등을 심화시키는 관행을 지양해야 한다.
D. 모든 이해관계자 (All stakeholders)
75. 국가, 국제기구, 기업, 시민사회, 학계 및 영향을 받는 공동체를 포함한 모든 이해관계자는 인권을 보장하는 거버넌스 조치를 개발하기 위해 투명하고 포용적인 다중 이해관계자(multi-stakeholder) 절차를 통해 협력해야 한다. 이러한 협력은 AI의 사회적 영향을 독립적으로 모니터링하고, 접근 가능한 구제 절차를 마련하며, 알고리즘 영향평가 체계와 감사 기준과 같은 공통 도구를 활용함으로써 지원되어야 한다. 이를 통해 AI 거버넌스가 인권 중심적(human-rights-centred)이고 모든 사람의 필요와 인간 존엄성에 부합하도록 해야 한다.
76. 모든 이해관계자는 특히 개발도상국의 시민사회단체를 지원해야 한다. 이를 위해 재정 지원과 역량 강화 프로그램을 제공하여 공공의 AI 이해를 증진하고, AI의 영향을 감시하며, 신기술의 영향을 가장 크게 받는 사람들이 그 활용 방식의 결정 과정에 참여할 수 있도록 해야 한다.
