[보도자료] AI 예외주의 반대, 통제 가능한 인공지능으로, 공공성, 책임성 강화 위한 8개 입법과제 3개 정책과제 제안

AI 예외주의 반대, 통제 가능한 인공지능으로

공공성, 책임성 강화 위한 8개 입법과제 3개 정책과제 제안

1. 인권, 노동, 복지, 여성, 환경, 소비자, 평화 등 전국 50개 시민사회단체가 함께 하고 있는 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(AI시민행동)은 최근 정부와 국회가 이견없이 추진하고 있는 인공지능 산업 육성 일변도의 입법 및 정책에 대해 신뢰가능한 인공지능, 안전하고 통제가능한 인공지능이 되기 위해서는 규제의 대폭 완화(사실상 규제 무력화, AI예외주의)가 아니라 오히려 안전을 담보하고 통제 가능한 인공지능이 될 수 있도록 적정한 규제를 설계해야 한다고 요구해 왔다. 이에 AI시민행동은 오늘(9/15) 22대 후반기 국회가 본격 가동하는 때에 맞춰 <통제가능한 인공지능 위해 AI 예외주의 반대 22대 후반기 국회에 8개 입법과제 3개 정책과제 제안>을 제출하며 손솔 국회의원(법제사법위원회, 성평등가족위원회)과 함께 국회 소통관에서 기자회견을 개최하였다.
2. 지난 7월 오픈AI가 개발한 AI모델이 격리된 환경을 벗어나 외부 타기업에 침입 비공개 데이터를 해킹하는가 하면, 최근 9월 8일에는 오픈AI의 새 인공지능(AI) 모델 ‘GPT-6 아스트라’가 인간임을 증명하는 온라인 테스트 ‘캡차'(Captcha) 게임을 모두 통과했다는 소식에 이르기까지 AI가 인간의 통제를 벗어나는 단계에 빠르게 진입하고 있다는 우려가 높다. 심지어 AI 기업인 앤트로픽 CEO인 다리오 아모데이가 최첨단 AI에 대한 인간의 통제를 강화하기 위한 개발 속도 조정의 필요성을 강조한 것처럼, 이제 AI는 일자리 위협과 할루시네이션 같은 허위정보의 문제에서 에이전트AI의 일탈과 통제불능에 대한 경고까지 새로운 국면에 접어들고 있다. 그러나 최첨단 AI의 위험성에 대한 통제를 기업들의 선의에만 맡겨놓을 수는 없다. 인간이 통제할 수 없는 방식으로 최첨단 AI 개발 경쟁이 더 가속화되기 이전에, AI가 야기한 위험에 대한 기업들의 책임을 묻고 사전적인 감독을 강화하기 위한 제도를 마련해야 한다.
3. 하지만 안타깝게도 이와 같은 위험을 예측하고 대비하기 위한 국가적 차원의 논의는 보이지 않는다. 오히려 이재명 정부는 AI강국을 표방하는 정책을 거침없이 추진하고 있고 9월 중 AI 산업을 위해 그동안 우리사회가 오랜시간 합의해 온 노동/환경 규범을 무력화하는 이른바 ‘메가특구특별법’ 제정안을 발의한다고 알려지고 있다. 정부를 견제하고 균형을 맞추어야 할 국회 역시 AI 만능주의에 편승하여 마구잡이식 AI 예외주의 내지 규제무력화 법안들을 쏟아내고 있다. 이미 2026년 상반기에 ‘자율주행자동차 상용화 촉진 및 지원에 관한 법률 일부개정안’, ‘인공지능 데이터센터 산업 진흥에 관한 특별법안’이 국회를 통과해 시행 중이며, 지난 8월에는 전세계 유례없는 식별가능한 개인정보 원본을 그대로 AI개발에 활용할 수 있도록 하는 ‘개인정보보호법’도 통과되었다. 이 외에도 근로기준법, 피지컬AI법, 디지털헬스케어법 등 노동, 보건의료 분야에 AI도입을 위해 규제를 완화하는 법안들이 발의되고 처리될 전망이다.
4. 시민사회는 그동안 정부와 국회에 신뢰가능한 인공지능, 안전하고 통제가능한 인공지능이 되기 위해서 인권과 안전 및 민주주의를 훼손하지 않는 인공지능 정책과 입법을 추진할 것을 요구해 왔다. 그러나 정부와 국회는 인공지능 산업 육성을 위해 우리 사회가 오랜 동안 확립해 온 안전, 개인정보보호, 노동권, 환경권 등을 규제 완화라는 이름으로 우회하거나 심지어 무력화하는 인공지능 예외주의를 진행해 왔다. 2026년 1월 21일부터 시행한 인공지능기본법은 사회적으로 용인할 수 없는 금지 AI 규정이 없으며, 사회 전영역에 걸쳐 영향을 받는 자의 권리 및 피해 구제절차가 없어 국민의 존엄과 권리를 제대로 보호하지 못하고 있으며, 국회에서 논의 중인 국방AI 관련 법안들은 신속한 전력화에 초점을 맞추고 있을 뿐 안전장치, 민주적 통제, 국제법 준수 등의 내용은 반영하지 않고 있다. 또한 지난 8월 국회를 통과한 개인정보보호법은 인공지능 기술개발을 위해서 전세계 유례없이 식별가능한 원본 개인정보를 이용할 수 있도록 하고 있고,  이에 앞서 6월 통과된 인공지능 데이터센터 산업 진흥에 관한 특별법은 실질적 이해 관계자인 지역민들에게 미칠 경제적, 환경적 영향에 대해서는 사전 사후 평가나 정보공개조차 규정하고 있지 않다.
5. 이뿐 아니라 실제 물리적 환경에서 사람의 생명, 신체의 안전에 실질적 영향을 끼칠 피지컬 AI 관련 법안은 그나마 존재하는 최소한의 안전장치들마저 규제 완화라는 이름으로 무력화하고 있을 뿐 인간 통제에 의한 안전조치 등도 없다. 국민의 가장 사적이고 민감한 정보라고 할 수 있는 개인의료정보와 심지어 유전정보조차 디지털헬스케어 산업 진흥을 목적으로 각 분야별 구축해 놓은 안전장치를 우회하거나 생략하며 활용할 수 있도록 하는 법안들도 논의되고 있다. 정부가 7월 22일 발표한 AI 기본의료 역시 근본적인 의료 인력 부족, 공공의료 확충이라는 구조적 문제는 뒤로 한 채  검증되지 않은 AI기술을 앞세워 사실상 ‘의료 영리화’를 추진하는 것에 불과하다. 또한 AI 전환기 노동현장에서 성별 편향과 기존 차별의 재생산 등은 지속적으로 지적되어 온 문제이다. 고용과 인사관리 전 과정에서의 성별 편향 및 기존 차별의 재생산, 과소 대표된 데이터에 근거한 AI 정책, AI로 인한 디지털 성폭력, 성착취 확산 등에 대한 대책은 AI 전환기 정부와 국회가 풀어야 하는 과제라고 할 것이다.
6. 이에 AI시민행동은 22대 후반기 국회가 현재 논의되고 있는 관련 법안 중 폐기해야 하거나 전면 재검토가 필요한 8가지 입법과제로 ▲인공지능의 공공성, 책임성 강화를 위한「인공지능기본법」개정, ▲국제법 준수·민주적 통제 보장하도록 국방인공지능법 제정, ▲전력화 과정의 투명성과 안전성 보장토록 국방첨단전력사업법 제정, ▲빅데이터· 인공지능 시대, 정보주체 권리 보호 위한 개인정보보호법 개정, ▲공공성, 절차적 정당성 없는 AI데이터센터법 폐지,▲피지컬AI 산업에서의 인권 보호 체계 마련 AI 의료시대, 개인의료정보 보호 강화와 공적 데이터 거버넌스 마련,▲AI 전환기 노동권 보장 체계 마련, ▲디지털헬스케어법안 폐기 및 개인의료정보 보호 강화 등을 제시했다. 또한 브레이크 없이 전력 질주 중인 정부의 AI정책에서 반드시 짚고 넘어가야 할 3가지 정책과제로 △메가프로젝트 및 메가특구 공공성·기후·환경·민주주의 관점에서 전면 재검토, △‘AI 기본의료’ 전략 의료공공성 강화 측면에서 점검,△AI 전환기 젠더 불평등 해소 대책 마련을 제안했다.
7. 22대 후반기 국회가 본격적으로 가동되는 지금, 더 늦기 전에 AI 전환기 사회 각 분야에서 부상하는 도전과 위험을 예방하고 최소화하기 위한 입법과 정책이 절실한다. 국회가 정부의 브레이크 없는 AI 만능주의, AI 예외주의 기조에 제동을 걸고 견제와 균형의 역할을 충실히 해 줄 것을 요청한다. 끝.

▣ 붙임1 : AI시민행동 입법의견서 AI시민행동 입법의견서 <통제가능한 인공지능 위해 AI예외주의 반대 국회에 8개 입법과제 3개 정책과제 제안>