네트워커 199호

인공지능 시대 영향받는 사람의 목소리

인공지능 시대 영향받는 사람 연속 워크숍 3차와 4차를 무사히 마쳤습니다. 3차 워크숍에서는 공권력 AI의 현황과 대응이라는 주제로 각각 경찰, 출입국 분야에서 사용되는 기술의 현황과 위험, 법적 쟁점을 살펴보았구요. 4차 워크숍에서는 교육 분야를 주제로, AI 도입을 결정하는 교육 당국과 학교의 정책에 따라 권리에 심각한 영향을 받는 교사와 학생, 청소년 인권에 대한 영향을 살펴보았습니다. 돌아오는 8월에는 ‘지역과 AI정책’을 주제로 울산에서 5차 워크숍이 열릴 예정입니다.

인공지능에 모든 걸 쏟아붓는 법안을 멈춰…

인공지능 기술 개발과 산업 진흥을 목적으로 개인정보보호법을 개악하려는 시도가 계속되고 있습니다. 개정안 반대에 관한 국민동의청원을 통해 9,691명이 목소리를 함께 해주셨고, 디정넷을 비롯한 시민사회는 입법의견서와 함께 국회를 돌며 해당 법안의 문제점을 설명하고 전면 재검토를 촉구할 예정입니다. 올해 초 발표되었던 ‘대한민국AI행동계획’이나 최근 발표된 개인정보보호위원회의 2027~2029 제3차 개인정보 보호 기본계획에서도 인공지능 기술 개발을 위해 개인정보 원본 활용을 허용하는 특례를 마련한다거나 관련 법을 개정하겠다거나 하는 의지가 강력히 보입니다. 이를 막기 위한 싸움이 결코 쉽지는 않을 것입니다. 하지만 끝까지 해봐야겠지요!

쏟아지는 개악안에 이어 후퇴하는 윤리원칙

과기부와 정보통신정책연구원이 공개한 인공지능 윤리원칙 (안)에 대한 의견서를 제출했습니다. 해당 원칙 안은 기존 2020년 제시되었던 윤리기준보다 국제적 기준으로 후퇴한 원칙입니다. 이미 인공지능 기본법이 시행중인 상황에서 이번 윤리원칙이 국제적 정합성을 높이고 사업자의 바람직한 원칙 준수 기준을 제시하려면, 무엇보다 영향받는 사람의 피해 위험을 방지하고 구제 가능성을 높이는 방향이어야 할 것입니다. 나아가 인공지능 기술로 인해 사회 대전환이 예상된다면 윤리원칙의 철학과 방향 그리고 인권, 성평등, 공공성 등 인류 보편의 가치와 규범을 더욱 명확히 규정할 필요가 있습니다.

안면인증 요구하는 과기부 규탄

시민사회의 비판으로 도입이 중단되었던 휴대전화 개통시 안면인증을 요구로하는 제도가 결국 시행되었습니다. 안면인증에 대한 대체수단을 제공한다고는 하지만, 우려가 크거나 번거로운 방법으로 실효성이 적어 실제 운영 과정에서 안면인증이 우선적인 인증 수단으로 설명되고 요구될 가능성이 큽니다. 무엇보다 안면인증 제도를 도입해야 할 이유가 근본적으로 없습니다. 보이스피싱 예방이 안면인증 도입의 명분이지만, 국내에서 보이스피싱 피해가 가장 큰 이유는 주민등록번호와 연계정보(CI)와 같은 보편적 개인식별자가 무분별하게 수집되고 활용되고 있기 때문입니다. 보이스피싱과 같은 범죄 예방이 목적이라면 추가적인 개인정보를 수집하는 것이 아닌 기존의 제도를 개혁해야 할 것입니다. 이용자에게 안면인증의 부담을 안겨주는 게 아니라, 기업의 편의성을 위해 도입된 보편적 개인식별자인 연계정보 제도 폐지 등을 고려해야 할 것입니다.

CI유출이 저희 일상이에요

티빙에 이어 우리은행에서도 CI정보가 유출되었습니다. 계속해서 반복되는 CI 유출사고를 보면 과거 주민등록번호가 빈번하게 유출되던 상황이 떠오릅니다. 국가와 인터넷 기업들이 온라인에서 국민을 고유하게 식별하기 위해 대규모로 주민번호를 수집하고 이용한 결과 대규모 유출사고들이 이어졌고 보이스피싱을 비롯한 피해가 속출했습니다. 결국 2014년 법적 근거 없는 일반 인터넷 서비스에서 주민번호 처리가 금지되었고, 2017년에는 유출 피해자를 위한 주민번호 변경 제도도 도입되었지요. 온라인 주민번호인 CI도 똑같은 위험에 처해 있습니다. CI 유출 사고가 향후 어떤 규모의 피해로 국민들에게 돌아올지 예측조차 하기 어려운 상황입니다. 인터넷 기업들은 물론이고 특히 CI 제도를 운영하는 정부는 제도의 근본적 변화와 대책(폐지!)를 내놓아야 할 것입니다.

「바이오데이터 활용 및 인공지능바이오 연구개발 촉진에 관한 법률안」에 대한 의견서 제출

바이오데이터 활용 및 인공지능바이오 연구개발 촉진에 관한 법률안은 생명윤리법과 개인정보보호법이 오랜 기간 걸쳐 구축해 온 정보주체 보호 체계를 개별 심의 없이 특례로 우회하는 조항을 다수 포함하고 있습니다. 이러한 우려는 보건복지부 및 개인정보보호위원회의 공식 의견에서도 지적된 지점입니다. 건강보험 빅데이터 민간개방 저지 공동행동에서 해당 법률안의 폐기를 요청하는 의견서를 제출했습니다.

‘혐오표현’ 심의 관련 의견서 제출

7월 7일 개정된 정보통신망법에 따라 온라인 ‘혐오표현’이 불법정보로 규정되고 이에 대한 심의가 시행되었습니다. 혐오표현으로부터 사회적 소수자의 인권을 보호한다는 입법 취지에는 공감하지만, 행정기관에 의한 심의와 조치가 이루어지는 만큼 표현의 자유를 보장하고 심의의 예측 가능성과 절차적 정당성을 확보하기 위한 기준과 체계가 마련되어야 할 것입니다..