– AI 정책, 영향받는 사람의 권리와 안전을 중심에 두는 정책으로 전환해야

1. 2025년 12월 16일부터 2026년 1월 4일까지 국가인공지능전략위원회가 공개한 「대한민국 인공지능 행동계획」(안)에 대해 18개 시민사회단체는 인공지능의 위험성 통제 장치 부재, 개인정보 보호원칙 훼손, 민주적 거버넌스 결여 등의 문제를 지적하는 의견을 제시했다. 해당 행동계획(안)은 ‘규제개혁’ 또는 ‘규제혁신’이라는 이름 아래 일부 AI 기업의 기술 발전을 위해 국민의 개인정보와 정부 보유 정보를 원본 그대로 활용할 수 있도록 하는 법·제도 개편을 전제로 하고, 국가 전 영역에 AI를 도입·활용하겠다는 방향으로 마련되었다.
2. 그러나 인공지능은 그 자체로 알고리즘 오류·편향·불투명성이라는 구조적 위험을 내포하고 있는데 이에 대한 실질적인 통제 방안이나 책임성 강화 장치는 여전히 제시되지 않고 있다. 행동계획(안)은 ▲AI 개발·활용 중심의 일방적 정책 설계 ▲AI로 인해 영향을 받는 사람들의 권리 보장 및 피해 구제 방안의 부재 ▲개인정보 보호원칙과 정보주체의 자기결정권 무시 ▲민주적 통제와 사회적 논의를 담보할 거버넌스 체계의 부재라는 근본적인 한계를 그대로 드러내고 있다.
3. 이에 시민사회단체들은 이러한 문제의식을 의견서에 담아 “「대한민국 인공지능 행동계획」(안)에 대한 시민사회 의견서 – AI 위험성 통제 장치·개인정보 보호원칙·민주적 거버넌스 체제 미흡, 사업자 책임성 강화와 AI의 영향을 받는 사람들의 권리 및 구제 방안 마련 필요”(총 41쪽)을 지난 1월 4일 국가인공지능전략위원회에 제출했다. 이후 오늘(1월 8일) 해당 의견서의 핵심 쟁점을 사회적으로 공유하고 정책 결정 과정에서 배제되어 온 ‘인공지능의 영향을 받는 사람들’의 관점을 분명히 하기 위해 기자설명회를 개최했다.
4. 기자설명회에서는 먼저 행동계획(안)의 총론적 문제와 정보인권·공공성 관점에서의 우려를 짚었다. 디지털정의네트워크 오병일 대표는 해당 계획이 산업 중심으로 편향되어 AI 위험 통제와 사업자 책임, 민주적 거버넌스가 사실상 공백 상태에 놓여 있다고 지적하며, 영향받는 당사자의 참여를 전제로 한 전면적 재구성과 사회적 공론화가 필요하다고 밝혔다. 참여연대 공익법센터 이지은 간사는 ‘규제혁신’이라는 명목으로 개인정보 원본 활용과 공공·민간 데이터의 통합·자산화를 추진하는 것은 개인정보자기결정권 등 기본권 침해 위험이 크다며, 관련 법제 추진을 중단하고 사전 위험평가와 권리보장 장치를 강화해야 한다고 강조했다. 이어 정보인권연구소 장여경 상임이사는 공공분야 AX를 확대하면서도 공공 AI의 성능·책무성 결함이 방치되고 있다고 지적하며, 검증되지 않거나 설명 가능하지 않은 공공 AI는 도입하지 않는 원칙과 시민 권리 보호·구제를 위한 감독 거버넌스를 행동계획에 명시해야 한다고 주장했다. 민변 디지털정보위원회 김은진 변호사 역시 ‘AI 기본사회’와 ‘AI 공론장’ 구상이 선언에 그치지 않으려면 인권 기반 원칙을 분명히 하고, 인권영향평가·독립적 감독·이의제기 등 실효적인 구제수단과 시민사회·교육당사자의 실질적 의사결정 참여를 구체화해야 한다고 말했다.
5. 이어 노동, 복지·의료, 국방, 성평등, 문화 등 각 영역에서 AI 도입에 의해 실제로 ‘영향받는 자’로서의 문제 제기가 이어졌다. 민주노총 홍지욱 부위원장은 속도전이나 다름없는 AI 정책이 노동 현장의 안전과 고용을 위협하고 책임 공백을 키우고 있다며, 채용·배치·평가 등 전 과정에서 노동자의 알 권리와 참여를 보장하는 ‘정의로운 전환’이 필요하다고 밝혔다. 참여연대 사회복지위원회 전은경 팀장은 복지·돌봄과 의료 문제를 AI로 해결하겠다는 접근이 국가 책임을 기술로 대체할 위험이 크다는 점을 지적하고 의료데이터 결합·활용 확대는 민간기업 종속과 데이터 약탈 구조로 이어질 수 있다며 공공성과 안전을 우선하는 재검토를 촉구했다. 참여연대 평화군축센터 이영아 팀장은 국방 AX 가속과 방산 AI 확대에 앞서 자율무기 등 군사 AI의 윤리·국제법·인간통제 쟁점에 대한 충분한 숙의와 사회적 공론장이 선행되어야 한다고 강조했다. 한국여성민우회 성평등미디어팀 온다 활동가는 행동계획(안)에 성평등·여성 인권 관점이 결여되어 있다고 지적하며 성평등 목표와 액션플랜의 통합적 수립과 거버넌스 참여 보장, 젠더폭력에 대한 책임 강화가 필요하다고 밝혔다. 문화연대 하장호 정책위원장은 문화 분야에서 과잉노동과 번아웃, 일자리 감소, 저작권·저작인격권 갈등이 이미 현실화되는 반면 아무런 해결책이 마련되지 않은 점을 지적하고 산업 지원 중심의 낙관론을 넘어 공론장을 마련함으로써 다양한 분야의 이야기를 들어야 한다고 발언했다.
6. 이와 같은 시민사회단체의 문제 제기와 요구에 대해 국가인공지능전략위원회와 정부는 현재까지 명확한 입장이나 후속 조치를 내놓지 않고 있다. 기자회견 참여단체들은 국가가 여전히 해소되지 않은 쟁점을 분명히 할 것을 요구하고, 인공지능 정책이 기술과 산업 중심의 계획이 아니라 영향받는 사람의 권리와 안전을 중심에 두는 방향으로 전환되어야 한다고 다시 한번 강조했다. 끝.

“Some of our activists are drafting statements with ChatGPT, and I’m worried about what approach we should take.”

Many organizations are likely having similar concerns. With the emergence of various generative AI services—such as chatbots like ChatGPT and Gemini, and tools that create images, music, and videos—an increasing number of citizens are using them for both professional and personal purposes. Civil society activists are no exception. However, while they are being utilized, usually based on individual judgment even for work-related tasks, almost no organization currently has an organizational-level policy on generative AI.

There are many points that civil society organizations (CSOs) must consider when using generative AI. For example, if factual inaccuracies (hallucinations) from generative AI are included in an organization’s official documents, the organization’s credibility can be severely damaged. Security issues may arise if personal or confidential information is uploaded to unreliable commercial services. Furthermore, the output of generative AI might contain biases that conflict with the organization’s values. The process of drafting a statement using generative AI may exclude aspects crucial for activist capacity building and internal organizational deliberation. If activists use AI tools based on individual choice without an organizational policy, there is a high likelihood that issues beyond the organization’s control will emerge.

However, in the Korean context, there is a lack of guidelines available regarding whether it is appropriate for civil society organizations to utilize generative AI services, what principles and policies should govern their use if they choose to do so, and what guidance can be referenced from a human rights perspective. Moreover, the current status of which AI tools activists are using for which tasks has not been documented. This guide originates from the realization that we need to help civil society organizations and activists establish generative AI policies and properly utilize these tools when necessary.

To create this guide, we conducted a survey on which AI tools are actually being used for which tasks, how useful generative AI is perceived to be, and what problems users are experiencing. We gathered opinions not only from domestic activists but also from activists worldwide through the APC network. While the sample size is limited, restricting its statistical significance, we were able to confirm the real concerns and shared understanding of the issues felt by activists. Even those who use generative AI minimally responded, sharing their thoughts.

Furthermore, we held workshops with civil society and labor union activists focusing on generative AI. We shared the survey results and a preliminary policy framework, allowing participants to exchange their experiences and perspectives. Through this process, we reconfirmed that the act of honestly sharing feelings and concerns is crucial, rather than simply reaching a consensus. The policy framework presented in this guide is merely a starting point; the process of each organization creating its own policy that reflects its reality and the voices of its activists is paramount.

While some activists use generative AI with interest, many others still feel uncomfortable with generative AI itself. We clearly state that this guide is not intended to encourage the use of generative AI. The fact that the development of major generative AI models and the provision of services are exclusively controlled by Big Tech companies is also a concern. Although this guide focuses on the commercial generative AI services currently in dominant use, we deeply empathize with the need to overcome these structural limitations.

Despite various limitations, we hope this guide will be of some help to organizations and activists currently contemplating policies related to generative AI.

Recently, the Korean government and industry have been pushing strong industrial support policies with the goal of becoming an “AI powerhouse.”
In our daily lives as well, we are increasingly conversing with and relying on generative AI in both work and everyday activities.

However, there is something we must not forget when developing and using AI.
The source of the vast amounts of data used by AI, including generative AI, is ultimately people, and the subjects of its predictions and decisions are also people.
An even greater problem is that what AI learns from and reflects is the world as it exists today—a world that has long discriminated against and marginalized certain groups of people.

Our society—and AI itself—must protect human dignity and must not discriminate against people or violate human rights.
Yet as this mysterious and complex AI environment deepens, we may lose our way.
Can AI and human rights coexist? How can we find that path?
Will Korea AI Framework Act, which will come into force in January next year, be able to protect human rights?

The Institute for Digital Rights has published an issue report titled A Human Rights–Based Approach to AI that reflects these concerns.
There is nothing extraordinary in it. We have simply gathered cases and institutional examples that approach AI issues from a human rights perspective.
Amid the AI industrialization driven by states and corporations, we sought to examine the relationship between AI and human rights from the standpoint of people who are often hard to see—especially ordinary people who are affected by AI.

In truth, this is not a story unfamiliar to us.
It is that we cannot stop striving to secure the human rights responsibilities of AI and to protect people affected by the risks posed by AI.
At this moment, when everyone is running forward without even knowing where the future is headed, we believed it was important to reaffirm our principles.
If we are to hold expectations about the benefits that AI can bring to people, we must focus even more closely on its impacts on people.
This is the core objective of a human rights–based approach to AI.

We hope you will take a look at the report and join us in discussing how we can build a future in which AI and human rights coexist.

* This publication was produced with the support of the Heinrich Böll Foundation.

– AI의 위험성으로부터 시민의 안전과 인권을 보호할 정부의 책무를 방기하겠다는 것인가
– ‘규제혁신’ 아닌 개인정보·기본권 후퇴, 산업·안보 편향 정책 재검토 필요
– 행동계획에 AI 사업자의 책임성 강화와 영향을 받는 사람들의 권리 보장 포함해야

1. 대통령직속 국가인공지능전략위원회는 지난 12월 16일 98개 행동계획을 담은 방대한 양의  「대한민국 인공지능 행동계획(안)」(이하 AI 행동계획)을 공개하고 2026년 1월 4일까지 국민 의견을 수렴한다고 밝혔다. 그러나 AI 행동계획은 전반적으로 인공지능 산업 육성과 기술 확산에 치우쳐 있으며, AI의 위험성을 통제하고 사업자 책임성을 강화할 장치가 부재하다. 또한, AI의 영향을 받는 사람들의 권리 보호 및 피해 구제 방안에 대한 계획도 미흡하다.
2. 디지털정의네트워크와 정보인권연구소를 비롯해 시민사회는 그동안 인공지능기본법과 시행령안 등 법 개정 과정에서 인공지능의 영향을 받는 시민을 보호하는 최소한의 안전장치가 마련되어야 한다고 지속적으로 요구해 왔다. 그러나 2026년 1월 시행을 앞둔 인공지능기본법과 그 하위법령은 고영향 인공지능에 대한 실질적 규제를 충분히 담지 못하는 등 시민의 안전과 인권 보호보다 ‘인공지능 산업 진흥’에 더 치우치고 말았다.
3. 이러한 상황에서 공개된 AI 행동계획 역시 개인정보 원본 활용 확대, 보건의료 데이터의 결합·활용 등 개인정보 보호 원칙을 완화하는 기조를 그대로 답습하고 있다. 인공지능 기술이 대량의 개인정보를 실시간으로 수집·분석하고 개인의 행동과 선택을 프로파일링할 수 있는 환경에서 정보주체의 통제권을 강화하기보다 활용을 우선하는 정책은 정보인권과 개인정보자기결정권을 구조적으로 약화시킬 우려가 크다.
4. 또한 AI 행동계획은 AI의 개발 및 도입이 시민들의 삶과 사회에 도움이 될 것이라고 막연하게 전제하고 있으나, 실제 AI가 사람과 사회에 미치는 영향에 대해서는 충분한 연구가 이루어지지 않았고, 예측형 AI의 성능과 공정성 역시 검증되지 않은채 도입되고 있다. 분명한 것은 마치 자동차나 승강기와 같은 제품을 출시할 때 안전성 검사를 받는 것처럼, 복지 정책을 도입할 때 공정성에 대한 검토를 하는 것처럼, 국가는 AI 제품이나 서비스가 시민의 안전과 인권을 침해하지 않도록 보장해야 할 기본적인 책무가 있다는 것이다. 그러나 AI 행동계획은 AI 제품이나 서비스가 어떠한 위험이 있는지, 그러한 위험을 어떻게 탐지, 제거, 완화할 것인지에 대해 충분히 다루고 있지 않다.
5. 이에 두 단체는 AI 행동계획에서 다루고 있는 정책의 문제점에 대한 의견을 제시하는 것과 동시에, AI 행동계획에서 다루고 있지 않은 의제들, 특히 AI의 위험성에 대해 어떻게 안전장치를 마련할 것인지, 위험한 AI를 제공하는 사업자와 AI를 활용하는 기관의 책임을 어떻게 물을 것인지, AI의 영향을 받는 시민의 권리를 어떻게 보호할 것인지에 대한 종합적인 대안 마련이 필요하다고 지적했다.
6. 아울러 AI 행동계획이 이와 같은 의제를 충분히 반영하지 못한 원인으로 국가인공지능전략위원회의 편향된 구성과 운영 방식을 지적했다. 현재 위원회는 산업계 중심으로 구성되어 있기 때문에 AI 정책이 기술 확산과 기업 이익에 치우칠 위험이 크다. 따라서 정부가 공공성, 책임성, 시민 권리 보호를 균형 있게 고려한 AI 정책을 수립하기 위해서는 국가인공지능전략위원회의 구성부터 재검토해야 하며, 다양한 이해관계자와 시민의 목소리가 실질적으로 반영되는 거버넌스 체계를 마련해야 한다고 촉구했다.

▣ 붙임. 「대한민국 인공지능 행동계획」(안)에 대한 의견서

– 22개 노동시민사회단체, <인공지능기본법 시행령안 등 하위법령의 문제점과 대안> 기자설명회 개최
– 정보인권, 교육, 노동, 문화, 보건의료, 소비자단체 우려 표명
– “고위험 이용사업자의 책무를 광범위하게 면제하는 하위법령이 그 영향을 받는 시민의 안전과 인권을 인공지능 위험에 방치해”

1. 22개 노동시민사회단체는 2025. 12. 8. (월) 10:30, 참여연대 아름드리홀에서 정부가 추진 중인 「인공지능발전과 신뢰기반 조성에 관한 법률(이하, ‘인공지능기본법”)」시행령(안) 등 하위법령(안)의 문제점을 비판하고 대안을 촉구하는 기자설명회를 개최하였습니다. 정보인권, 교육, 노동, 문화, 보건의료, 소비자단체들은 한목소리로 고위험 이용사업자의 책무를 광범위하게 면제하는 하위법령이 그 영향을 받는 시민의 안전과 인권을 인공지능의 위험 앞에 방치할 우려가 있다고 지적하였습니다.
2. 지난 2024년 1월 23일 공포되고 2026년 1월 22일 시행을 앞둔 인공지능기본법의 하위법령, 즉 시행령(초안), 고시(안) 및 가이드라인(안) 등이 9월 17일 공개되었습니다. 이 가운데 시행령(안)은 11월 13일 일부 조항 수정 후 입법예고되어 12월 23일까지 국민의 입법의견 수렴을 거치는 중입니다. 인공지능기본법은 ▲사람의 잠재의식에 영향을 주거나 연령, 장애 등 취약성을 악용해 행동을 유도하는 인공지능 등을 금지하는 규정이 없고, ▲고영향 인공지능 사업자의 범위가 협소하며, ▲고영향 인공지능 사업자의 책무 규정이 미흡하고 그 위반에 대해서도 과기정통부 시정명령을 이행하지 않을 때에야 과태료를 부과하는 등 실효성이 의문이며, ▲인공지능의 영향받는 자의 권리 및 구제에 대한 조항을 두고 있지 않으며, ▲국방 또는 국가안보 목적의 인공지능에 대한 이 법 적용을 광범위하게 배제하고 있다는 점에서 시민사회의 비판을 받아 왔습니다. 이처럼 인공지능기본법의 법률 조항들이 인공지능의 위험을 방지하는 데 여러 한계를 가지고 있기 때문에 하위법령은 시민의 안전과 기본권을 보호할 수 있는 조치들을 보완할 필요가 있습니다. 그러나 현재의 하위법령(안)은 법률 조항이 위임한 구체적인 보호 사항도 규정하지 않은 경우가 많았고, 오히려 사업자의 책무와 관련하여 법률에 없는 유예 사항을 여러 가지 추가하였습니다.
3. 디지털정의네트워크 오병일 대표는 법률이 시행령으로 고영향 인공지능의 추가를 위임하였음에도 시행령(안)은 이에 대해 아무 것도 규정하지 않았기 때문에 공공장소 얼굴인식, 직장과 학교의 감정인식 등 시민의 안전과 인권에 위험한 인공지능이 규제의 사각지대에 놓이게 되었다고 지적하였습니다. 특히 병원, 채용회사, 금융기관 등 업무상 목적으로 인공지능을 이용하는 사업자를 모두 ‘이용자’로 보고 위험관리, 설명, 사람의 관리·감독 등 ‘이용사업자’의 책무를 일체 배제하는 것은 큰 문제라고 비판하였습니다. 뉴스사업자나 영상제작자와 같이 실제 AI 시스템을 이용하는 사업자 역시 ‘이용자’로 규정되었기 때문에 딥페이크물임을 표시해야 하는 의무를 면제받게 되었습니다. 따라서 “업무 목적으로” 인공지능을 이용하여 영향받는 자에 대하여 직접적인 영향을 미치는 인공지능 사업자는 ‘이용사업자’로서 이에 합당한 책무를 져야 한다는 지적입니다.
   민주사회를 위한 변호사모임 디지털정보위원회 김하나 위원장은 고영향 인공지능 사업자 책무 중 주요 사항에 대하여 시행령(안)은 아무런 언급을 하지 않고, 권고사항에 불과한 고시나 가이드라인에만 기재되어 있는 경우가 많았다고 지적하였습니다. 법률이 위임한 중요 사항과 국민의 권리 의무에 직접적인 영향을 미치는 사항에 대해서는 반드시 시행령에 규정하여야 한다는 것입니다. 또한 시행령(안)이 법률에서 위임하지 않은 사실조사의 면제를 규정하거나 상당 기간(미상)의 계도기간을 운영하도록 한 것은 위임범위를 벗어난 것이며, 인공지능 제품 및 서비스로 인한 안전 사고나 인권 침해가 발생하여도 시민 안전이나 인권 보호보다 기업 민원을 중시하겠다는 것인지 반문하였습니다.
4. 한편, 각 부문별로 하위법령(안)의 문제점을 지적하는 목소리도 잇따랐습니다. 공공운수노조 든든한콜센터지부 김현주 지부장은 AI 도입으로 이미 콜센터 노동자들이 해고·감시·책임 공백·고객 안전 위험 등 심각한 피해를 겪고 있는 현실에 대해 소개하고, AI로부터 영향을 받는 상담사들이나 고객들을 보호할 법적 장치가 시급하다는 점을 비판하였습니다.
   이어 전국교직원노동조합 참교육연구소 최선정 소장 겸 대변인은, 정부의 AI 인재양성 정책이 교육을 산업 수요에 종속시키고 학생·교사의 권리와 교육의 공공성을 약화시킬 것이라고 우려하면서, 기술의 윤리적 문제를 통제할 수 있는 ‘비판적 AI 시민’을 양성하는 방향으로 정책 방향을 전환할 것을 요구하였습니다.
   또한 문화연대 하장호 정책위원장은 AI 산업에 편중된 정부 정책의 추진으로 인하여 문화예술 분야가 겪을 심각한 생존권 위협, 노동권 침해, 그리고 근본적인 사회적 문화 토대 붕괴 위험에 대한 사회적 논의와 대책 마련이 심각하게 부족하다고 지적하였습니다.
5. 한편, 보건의료단체연합 전진한 정책국장은 보건의료 현장에 충분히 검증되지 않은 AI가 무분별하게 도입되고 있다고 우려를 표하면서 이로 인하여 오진·안전 위협·비용 부당 청구 등 심각한 위험이 초래하고 있음에도 인공지능기본법은 이를 규제하지 못하고 사실상 의료 분야를 무법지대로 방치하고 있다고 비판하였습니다.
   마지막으로 한국소비자연맹 정지연 사무총장은 AI 도입으로 인해 소비자가 챗봇 응대로 불편을 겪거나 사람이 대면할 권리가 침해되는 문제가 발생하고 있고 AI로 인한 피해가 나타났을 때 소비자가 입증 책임을 질 수밖에 없는 상황에 대하여 우려를 표하면서 사회적 약자 및 취약계층을 보호하고 소비자의 참여권을 제도화하는 안전장치가 반드시 필요하다고 지적하였습니다.
6. 성장중심적인 ‘AI 강국’이 이재명 정부의 국정 최우선 과제인 만큼, AI 위험으로부터 영향받는 사람의 권리를 보호하는 것이 더욱 중요합니다. 이에 시민사회는 인공지능이 시민의 생명과 안전, 기본권 및 민주주의에 가져올 위험에 대비하는 것이 국가의 책무라는 점을 꾸준히 짚으면서 대안을 제시해 왔습니다. 시민사회는 오늘(12/8) 기자설명회를 마치고 인공지능기본법의 시행령(안), 고시(안) 및 가이드라인(안) 등 하위법에 대해 일차적으로 의견서를 제출했으며, 향후 노동, 교육, 문화예술, 보건의료, 소비자 등 부문별 시민사회 의견서 제출도 계속될 예정입니다. 끝.

 ▣ 기자설명회 개요

• 제목 : “2026년 1월 인공지능기본법 시행, 어떤 일이 벌어지나”- <인공지능기본법 시행령안 등 하위법령의 문제점과 대안> 기자설명회
• 일시 장소 : 2025. 12. 8. 오전 10시 30분 / 참여연대 아름드리홀(2층)
• 공동 주최 : 민주사회를 위한 변호사 모임 디지털정의위원회, 디지털정의네트워크, 정보인권연구소, 참여연대, 공공운수노조, 무상의료운동본부, 문화연대, 미디어기독연대, 민주주의법학연구회, 보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한 약사회,건강사회를위한치과의사회,노동건강연대,인도주의실천의사협의회,참의료실현청년한의사회), 시민사회단체연대회의, 서울YMCA시민중계실,언론개혁시민연대 정책위원회, 인권교육온다, 전국교직원노동조합, 전국금속노동조합,전국민주노동조합총연맹, 청소년인권운동연대 지음, 표현의 자유와 언론탄압공동대책위원회, 한국소비자연맹, 한국여성민우회, 한국여성소비자연합(이상 22개 단체)
• 프로그램
  • 사회: 참여연대 공익법센터 이지은 선임간사
  • 하위법령(안)의 핵심 문제(1): 디지털정의네트워크 오병일 대표
  • 하위법령(안)의 핵심 문제(2): 민주사회를위한변호사모임 디지털정보위원회 김하나 위원장
  • 하위법령(안)의 부문별 문제점 및 제안
    • 노동: 공공운수노조 든든한콜센터지부 김현주 지부장
    • 교육: 전국교직원노동조합 참교육연구소 최선정 소장 겸 대변인
    • 문화예술: 문화연대 하장호 정책위원장
    • 보건의료: 보건의료단체연합 전진한 정책국장
    • 소비자: 한국소비자연맹 정지연 사무총장

 ▣ 붙임 자료

• 시행령 입법예고안에 대한 시민사회 의견서
• 고시 및 가이드라인에 대한 시민사회 의견서
• 기자설명회 발표문

<인공지능기본법 시행령안 등 하위법령의 문제점과 대안> 기자설명회
일시 장소 : 2025.12.08. (월) 10:30 참여연대 아름드리홀(2층)

1. 취지와 목적

• 지난 2024년 1월 23일 공포되고 2026년 1월 22일 시행을 앞둔「인공지능발전과 신뢰기반 조성에 관한 법률(이하, ‘인공지능법”)」의 하위법령들-시행령안, 고시안 등-이 9월 17일 공개되었음. 이후 지난 11월 13일 시행령안은 입법예고되고 12월 23일까지 국민의 입법의견 수렴을 거치는 중임.
• 시행을 앞두고 있는 인공지능법은 ▲사람의 잠재의식에 영향을 주거나 연령, 장애 등 취약성을 악용해 행동을 유도하는 등 금지 인공지능에 대한 규정이 없고, ▲고영향 인공지능 사업자의 범위는 여전히 협소하며, ▲고영향 인공지능 사업자의 책무 위반에 대해 과기정통부의 시정명령을 이행하지 않을 때에야 과태료를 부과할 뿐 책무규정이 미흡하고 실효성이 담보될지 의문이며, ▲인공지능에 영향받는 자의 정의가 포함된 것은 다행이지만, 정작 영향받는 자의 권리 및 구제에 대한 조항은 두고 있지 않고, ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항 역시 포함되어 있지 않고, ▲인공지능 인권영향평가도 ‘노력할 의무’만을 부여하고 있어 실효성 담보가 어렵다는 시민사회의 비판을 받아 옴. 여기에 더해  ▲국방 또는 국가안보 목적의 인공지능을 광범위하게 이 법에서 적용배제하고 있음.
• 이와 같은 법적 한계를 노정하고 있음에도 하위법령에서나마 가능한 범위에서 사람의 생명, 신체의 안전 및 기본권에 영향을 미칠 수 있는 고영향 인공지능의 위험성을 사전적 예방적 차원에서 안전조치, 사업자의 책무 등을 제시하여 대비하는 것이 인공지능 사회를 살아가야하는 전체 국민의 안전과 기본권 보호를 위해 필요함. 그러나 지난 9/17 과기부가 제시한 시행령초안은 모법에서 위임한 사항조차 제대로 반영하지 않거나 자의적으로 법의 위임 범위를 벗어나 일방적으로 사업자 책무를 면제하는 등의 문제가 컸음. 이에 시민사회는 시행령초안에 대해 의견서를 제출하고, 이후 입법예고기간 (11/13~12/23)에 시행령안에 대해 의견서를 제출함.
• 이재명 정부의 국정 최우선 과제가 AI강대국 도약이고 AI를 국가 경제의 동력으로 삼고 있는 환경에서 AI의 위험성을 사전에 예방하기 위한 국가 정책을 요구하는 목소리를 찾아보기가 쉽지 않은 정치사회적 환경임. 그러나 시민사회는 꾸준히 AI가 시민의 생명과 안전, 기본권 및 민주주의에 가져올 위험에 대비하는 것이 국가의 책무라는 주장을 해왔고 대안을 제시해 옴.
• 그러나 인공지능법을 비롯해 시행령 등 하위법령에 어떤 내용이 담겨있는지 잘 알려져 있지 않음. 또한 언론은 AI의 이면을 제대로 알고 이에 대해 정확한 사실을 시민들에게 알릴 의무가 있는 바, 인공지능기본법 자체가 가진 한계, 정의 규정의 혼란, 광범위한 위임규정과 미미한 사전적 예방적 차원의 책무마저도 면제하거나 축소하는 시행령안 및 고시안, 가이드라인안 등의 주요 문제점을 살펴보고 그 개선방안을 함께 논의해 보고자 함.

1. 개요

• 제목 : “2026년 1월 인공지능법 시행, 어떤 일이 벌어지나”- <인공지능기본법 시행령안 등 하위법령의 문제점과 대안> 기자설명회
• 일시 장소 : 2025. 12. 8. 오전 10시 30분 / 참여연대 아름드리홀(2층)
• 공동 주최 : 민주사회를 위한 변호사 모임 디지털정의위원회, 디지털정의네트워크, 정보인권연구소, 참여연대, 문화연대, 보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회,건강사회를위한치과의사회,노동건강연대,인도주의실천의사협의회,참의료실현청년한의사회), 시민사회단체연대회의, 서울YMCA시민중계실,언론개혁시민연대 정책위원회, 인권교육온다, 전국교직원노동조합, 전국민주노동조합총연맹, 한국소비자연맹, 한국여성민우회(이후 추가 예정)
• 순서
  • 모법의 문제점과 시행령안, 고시 및 가이드라인의 핵심 문제
  • 부문별 노정된 문제점 및 제안(부문별 시민사회단체 참석자)
  • 질의와 응답
• 문의 : 참여연대 공익법센터 02-723-0666 / 디지털정의네트워크 02-774-4551/ 정보인권연구소 02-701-7687

1. 귀 언론사의 취재와 보도를 요청합니다. 끝.

민주사회를 위한 변호사모임 디지털정의위원회·디지털정의네트워크·정보인권연구소·참여연대·문화연대·보건의료단체연합·인권교육온다· 전국교직원노동조합·전국민주노동조합총연맹· 시민사회단체연대회의·서울YMCA시민중계실·언론개혁시민연대 정책위원회·한국소비자연맹·한국여성민우회

[이슈보고서 PDF 보기]
최근 한국 정부와 산업계는 ‘AI 강국’ 실현을 목표로 강력한 산업 지원 정책을 추진하고 있습니다.
우리 주변에서도 일과 생활에서 생성형 AI와 대화하고 여기에 의지하는 일이 많아지고 있습니다.

하지만 인공지능을 개발하고 이용할 때 잊지 말아야 할 사실이 있습니다.
생성형 AI를 비롯해 인공지능이 활용하는 방대한 데이터의 원천은 결국 ‘사람’이며, 그 예측과 결정의 대상이 되는 것 또한 ‘사람’이라는 점입니다.
더욱 큰 문제는 인공지능이 학습하고 반영하는 것이 지금의 우리 세계라는 것입니다. 어떤 사람들을 차별하고 소외시켜 온 그 세계 말이지요.

우리 사회는, 그리고 인공지능은, 인간의 존엄성을 보호해야 하며, 사람을 차별하거나 인권을 침해해서는 안 됩니다.
하지만 인공지능이라는 신묘한 환경이 깊어지면 우리가 길을 잃을지도 모릅니다.
인공지능과 인권이 함께 할수 있을까요? 그 길을 어떻게 찾아야 할까요?
내년 1월부터 시행되는 한국의 인공지능기본법은 인권을 보호할 수 있을까요?

정보인권연구소는 이런 고민을 담아 <인공지능에 대한 인권기반접근> 이슈보고서를 펴냈습니다.
대단한 내용이 있는 것은 아닙니다. 인권에 기반하여 인공지능 문제를 생각하는 사례와 제도들을 모아 보았습니다.
국가와 기업이 주도하는 인공지능 산업화 속에 잘 보이지 않는 사람들, 특히 인공지능으로부터 영향 받는 평범한 사람들의 입장에서 인공지능과 인권의 관계를 생각해 보고자 했습니다.

사실 우리가 모르는 이야기는 아닙니다.
인공지능의 인권적 책임을 확보하고 인공지능의 위험으로부터 영향을 받는 사람을 보호하기 위한 노력을 멈출 수 없다는 것입니다.
하지만 우리가 향하는 미래가 어디인지도 모르고 모두가 뛰어가는 지금 시점에, 원칙을 확인하는 일이 중요하다고 생각했습니다.
우리가 인공지능이 사람에게 가져다 줄 혜택에 대해 기대한다면, 인공지능이 사람에게 미치는 영향에 더욱 초점을 맞추어 살펴야 할 것입니다.
이것이야말로 인공지능에 대한 인권 기반 접근의 핵심적인 목표입니다.

보고서를 한번 살펴보시고, 우리가 어떻게 인공지능과 인권이 함께 하는 미래를 만들 수 있을지 토론해 보면 좋겠습니다.

* 이 자료는 독일 하인리히 뵐 재단의 후원으로 발간되었습니다.

– 인공지능기본법 시행령초안에 대한 시민사회 입법의견서 제출
– ▲고위험 이용사업자 책무 면제 ▲적용 예외 확대 ▲사실조사 및 과태료 유예 등 독소조항 등 시행령안 반드시 수정 필요

1. 지난 9월 17일(수) 과학기술정보통신부(이하, ‘과기부’)는 입법예고에 앞서 인공지능기본법 시행령초안을 비롯해 고시, 가이드라인 초안 일체를 공개했다. 그러나 공개된 시행령초안은 ▲고위험 이용사업자 책무 면제, ▲적용 예외 확대, ▲사실조사 및 과태료 유예 등과 같은 독소조항이 존재하고 있는 실정이다. 이에 오늘(10/1) 시민사회는 크게 16대 수정 요구사항을 담은 인공지능기본법 시행령초안에 대한 시민사회 입법의견서(총 28쪽)를 과학기술정보통신부에 제출했다.
2. 우리 시민단체는「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하, ‘인공지능기본법’)」제정 과정에서 노동자, 장애인, 학생, 환자, 구직자, 소비자 등 인공지능의 영향을 받는 시민을 대신하여 인공지능기본법이 시민의 안전과 인권을 보호하는 최소한의 보호막(가드레일)이 되어야 한다고 요구하여 왔다. 그럼에도 지난 2025년 12월 국회를 통과하고 내년 2026년 1월 22일 시행을 앞두고 있는 인공지능기본법은 비윤리적, 비도덕적 인공지능의 금지를 규정하지 않았고, 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 큰 분야 내지 영역을 상당 부분 누락하고 있다. 이러한 상황에서 인공지능기본법 시행령, 고시, 가이드라인 등 하위법령은 시민의 안전과 기본권을 최소한으로 보호할 수 있는 장치를 마련하여야 할 과제가 있다. 하위법령들이 인공지능 위험이 시민에 미치는 영향을 실질적으로 규율할 수 있어야 시민들이 안심하고 자신이 사용하거나 그 대상이 되는 인공지능을 신뢰할 수 있기 때문이다.
3. 그러나 지난 2025년 9월 17일 공개된 시행령초안은 그 제정 방향을 “규제보다는 진흥에 무게를 두고, 필요최소한의 규제를 합리적으로 마련하고 유연한 규제체계 도입”이라고 밝히고 있다(제정방향 p3). 이와 같은 방향은 인공지능 위험성에 대한 포괄적 규제체제를 도입한 유럽연합 등 글로벌 규범 동향에 반할 뿐 아니라 “국민의 권익과 존엄성을 보호”한다는 이 법의 목적(제1조)이나 “AI 산업 발전과 안전‧신뢰 기반 구축”이라는 두 가치를 균형적으로 표방하겠다는 입법 취지를 심각하게 훼손한다. 시행령 제정방향을 정함에 있어 인공지능으로 인해 피해를 입을 수 있는 영향을 받는 자를 포함하여 시민사회로부터 의견수렴이 부실했다는 점에서 산업 이익에 편향된 결과는 예견된 것이나 다름없다.
4. 이번 시행령초안은 다음과 같은 점에서 심각한 문제가 있어 이후 의견수렴 과정을 거치면서 반드시 수정, 보완되어야 한다.

   첫째, 우리나라 인공지능기본법은 유럽연합 인공지능기본법과 달리 공공장소 얼굴인식, 취약성 공격, 직장과 학교의 감정인식 등 인권침해 소지가 큰 인공지능 시스템을 금지하고 있지 않다. 따라서 적어도 시행령의 고영향 인공지능에 관한 정의 및 책무 규정에서 안전과 인권에 위험한 인공지능과 그에 대한 조치를 충분히 규정하여야 마땅하다. 그럼에도 시행령초안에서 고영향 인공지능에 관한 규정은 법률에서 시행령으로 명시적으로 위임한 사항에 대해서조차 아무런 규정을 두지 않고 있다.

   둘째, 하위법령안은 법령 규정 외적으로 ‘이용사업자’를 협소하게 해석함으로써 인공지능 제품이나 서비스를 업무에 사용하는 사업자를 모두 ‘이용자’로서 보고 일체의 책무를 배제하였다. 이로 인하여 병원, 채용회사, 금융기관 등 업무상 목적으로 인공지능을 이용하는 사업자가 환자, 채용 구직자, 대출 신청자 등 ‘영향받는 자’에 대해서 위험관리, 설명, 사람의 관리·감독 등의 책무를 지지 않아도 된다. “제공받은 제품 또는 서비스를 형태나 내용의 변경 없이 그대로 이용하는” 이용자와 달리, 인공지능을 “업무 목적으로” 이용하여 영향받는 자에 대하여 직접적인 영향을 미치는 병원, 채용회사, 금융기관 등 사업자는 ‘이용사업자’에 합당한 책무를 져야 한다.

   셋째, 인공지능기본법은 국방 또는 국가안보 목적으로만 개발·이용되는 인공지능을 국가정보원장, 국방부장관, 경찰청장의 자체적인 지정만으로 이 법의 적용범위에서 광범위하게 배제하였다. 현재 국방 또는 국가안보 목적 인공지능을 규율할 수 있는 법안이 추진조차 되고 있지 않기 때문에, 가장 인권침해가 심각한 인공지능에 대한 규제 공백이 우려된다. 그럼에도 시행령초안은 국가안보핵심기술 등 ‘국방 또는 국가안보 목적으로만 개발ㆍ이용되는 인공지능’ 분야를 폭넓게 인정하고 있다. 이중용도(dual use)로 사용될 수 있는 인공지능이 국방 또는 국가안보 목적 예외로 이 법에서 규정한 최소한의 의무를 배제한 채 은밀하게 개발·운영되는 일이 없도록, 최소한 적용제외 인공지능에 대해서는 국가인공지능위원회가 심의·결정하도록 하여야 한다.

   넷째, 시행령초안은 안전성 확보 의무가 적용되는 최첨단 인공지능(frontier AI)의 기준으로 ‘학습에 사용된 누적 연산량이 10의26승 이상’으로 매우 좁게 설정하고 있다. 그러나, 현재 이 기준을 충족하는 인공지능 시스템이 과연 몇 개나 있을지 의문이다. 향후 기술 발전에 따라 기준을 변경하더라도 현재 주요 최첨단 인공지능을 포괄할 수 있도록 10의25승 이상으로 규정할 필요가 있다.

   다섯째, 고영향 사업자 책무에 있어서 시행령초안은 “이행하여야” 하며(법 제34조 제1항), 고시는 “준수하도록 권고할 수 있다”고 정하고 있을 뿐이다(법 제34조 제2항). 시행령과 고시, 가이드라인은 그 법적 지위가 상이하다. 권고에 불과한 사항에 대해서는 특히 비용이 많이 소요되는 조치의 경우 사업자의 준수를 기대하기 어렵고 위반 시 제재도 어려울 수밖에 없다. 그럼에도 시행령초안에는 명시되어야 마땅한 중요한 사항에 대해서 아무런 언급을 하지 않고, 고시나 가이드라인에만 기재되어 있는 경우가 많다. 특히 법률이 위임한 중요 사항과 국민의 권리 의무에 직접적인 영향을 미치는 사항에 대해서는 반드시 시행령에 규정하여야 할 것이다. 따라서 고영향 인공지능 사업자의 책무에 대한 고시 및 가이드라인의 주요 내용은 시행령으로 규정하여야 한다.

   여섯째, 시행령초안은 법률에서 위임하지 않은 사실조사의 면제를 규정하거나 상당 기간(미상)의 계도기간을 운영하도록 하였다. 인공지능 제품 및 서비스로 인한 안전 사고나 인권 침해가 발생하여도 국가가 최소한의 행정 조사를 포기하거나 사실상 과태료를 미부과하겠다는 방침인 것이다. 사실조사와 과태료에 대해서는 기업들이 많은 민원을 제기한 바 있는 만큼, 그 면제 또는 유예는 시민 안전이나 인권 보호보다 기업 민원을 중시한 결과가 아닌지 의문스럽다. 이러한 전반적인 규제 설계는, 당분간 소비자를 비롯하여 그 영향을 받는 사람을 보호할 수 있는 설명 방안이나 사람의 관리‧감독, 문서의 작성‧보관 등 책무를 다하지 않고 인공지능 제품이나 서비스를 시장에 출시하여도 된다는 신호를 국가적 차원에서 공식화한 것이나 다르지 않다.

5. 이에 시민사회는 과기부가 공식 입법예고를 위한 시행령안 마련에 앞서 의견수렴과정에서 영향을 받는 자 등 시민사회의 의견을 충분히 수렴하여 아래와 같이 크게 16가지 사항에 대해 시행령초안을 수정, 반영할 것을 제안한다.

   – 법 제2조의 정의규정에서 혼란을 주고 있는 이용자 개념을 시행령에서 명확히 해야 함.

   – 법 제3조의 영향받는 자의 권리를 시행령에서 구체적으로 명시해야 함.

   – 국방 또는 국가안보 목적 외로도 활용될 수 있는 인공지능의 경우 포함되지 않도록 매우 엄격하게 규정해야 함.

   – 특히, ▲「국민보호와 공공안전을 위한 테러방지법」제9조제1항에 따른 정보의 수집 및 같은 조 제4항에 따른 추적, ▲「경제안보를 위한 공급망 안정화 지원 기본법」제15조제1항에 따른 조기경보시스템 운영ㆍ관리, ▲「경찰관의 정보수집 및 처리 등 에 관한 규정」 제3조제3호ㆍ제4호 및 제9호에 따른 정보의 수집ㆍ작성 및 배포, ▲「국민보호와 공공안전을 위한 테러방지법」제2조제6호에 따른 대테러활동 등은 악용 및 남용가능성이 매우 크므로 반드시 삭제해야 함. 최소한 적용제외 인공지능에 대해서는 국가인공지능위원회가 심의·결정하도록 해야 함.

   – 국가인공지능위원회의 의사는 원칙적 공개, 영향받는 자의 참여 보장 및 의견 수렴 절차 마련을 시행령에 규정해야 함.

   – 법 제14조 제5항에서 위임한 표준화 및 표준 준수의 촉진을 관련해 표준의 고시 절차 및 주체, 표준화 사업의 지원 방식, 표준 준수 권고 및 인증과의 연계 등 표준화 및 표준 준수의 촉진을 위한 구체적인 조치를 규정해야 함.

   – 정부 지원 인공지능 학습용 데이터는 선정에 개인정보보호법, 저작권법 등 준수 여부 반드시 포함시키고, 지원 대상 사업에 보안, 폐기 규정도 구체적으로 포함해야 함.

   – 기업 및 공공기관 AI기술 도입에 필요한 사항, 지원방안으로 AI 시스템의 효과나 영향 분석도구, 고영향 AI인 경우 기본권 영향평가 수행 도구 지원을 추가하고, 구체적인 영향 평가의 내용, 방법을 수립하여 보급할 때 국가인권위원회와 협의하도록 함.

   – 데이터센터 관련 시책의 추진에 지역공동체의 에너지 수급에 미치는 영향고려, 기휘위기에 미치는 영향을 측정할 수 있도록 에너지 사용 데이터 공개 규정 신설해야 함.

   – 고영향인공지능, 생성형AI의 투명성 의무에서 사람이 판독할 수 있는 표시 형식 병행 및 광범위한 예외규정을 삭제해야 함.

   – 안전성 확보 의무 대상 인공지능을 학습에 사용한 누적연산량 10의 25승 부동소수점 연산 이상으로 수정하고, 인공지능 안전성 확보 의무의 실효성을 담보하고 사업자 뿐 아니라 이용자, 영향을 받는 자 등 국민의 예측가능성을 높이고 법적 안정성을 확보하기 위해 고시에 위임하고 있는 안전성확보 고시는 시행령에서 규정해야 함.

   – 고영향인공지능 목록에 생체인식정보 분석, 활용하거나 근로조건, 계약이나 종료에 영향을 미치는 경우, 수사 및 기소, 선거 및 투표 등 기본권 침해 위험이 크거나, 중대한 영향을 미치는 영역을 빠짐없이 정의해야 함.

   – 공개된 장소의 실시간 원격생체인식 활용 인공지능, 인간의 심리, 사고, 행동을 현저히 왜곡하기 위해 잠재의식에 영향을 미치는 인공지능, 사회적 점수를 매겨 신뢰도 평가 및 분류하는 인공지능, 대량살상무기 개발 등 금지인공지능은 법개정 전 보호공백을 최소화하기 위해 고영향 인공지능으로 포섭해서 적정한 의무를 부과해야 함.

   – 고영향인공지능을 과기부 장관이 확인할 때 각분야의 소관부처에 의견 조회 및 협의하는 의무 부과하고, 기본권 침해 위험이 있는 경우 반드시 국가인권위원회 의견 청취하도록 해야 함.

   – 고영향인공지능 책무에서 안전성·신뢰성 확보하기 위한 6가지 이행 조치는 고시가 아니라 시행령에 구체적인 방법 및 절차에 대한 규정을 담아야 함. 게시의무 대상을 확대해야 하고, ‘부정경쟁 방지 및 영업비밀보호에 관한 법률’상 영업비밀에 해당하는 사항 면제 규정 단서 삭제 및 조치의무 면제 요건을 삭제해야 함.

   – 영향평가의 목적을 인공지능으로 인한 위험의 예방, 완화, 구제 등에 관한 사항으로 개정하고 독립적 수행을 보장, 사전 뿐 아니라 사후 등 정기성 담보 및 상당한 기능 변경이 있는 경우도 수행하도록 하며, 공공기관의 경우 영향평가 내용 공개 필수로 함. 과기부가 영향평가 구체적 방법 등을 수립하여 보급 시 국가인권위원회와 협의해야 함.

   – 사실조사 면제규정 삭제 및 최소한의 규제라고 할 과태료 조항의 계도기간 운영에 반대함.

6. 2025년 9월 25일 이재명 대통령이 유엔 안전보장이사회 공개토의에서 AI(인공지능)와 관련해 “이 무시무시한 도구가 통제력을 상실한다면 허위 정보가 넘쳐나고 테러, 사이버 공격이 급증하는 디스토피아의 미래를 피할 수 없을 것”이라며 인공지능 위험에 대해 경각심을 상기시킨 바 있다. 세계적으로 주목받고 있는 한국의 인공지능기본법이 인공지능 위험으로부터 영향받는 시민을 보호하고 국제인권규범에 부합하는 인권기반접근을 달성할 수 있도록, 시행령초안에 대한 시민사회의 의견이 반드시 반영되어 각종 독소조항이 삭제되기를 요구한다. 끝.

▣ 별첨. 인공지능기본법 시행령초안에 대한 시민사회 입법의견서 (총 28쪽)

2025. 10. 1.

민주사회를 위한 변호사 모임 디지털정보위원회 · 정보인권연구소 · 진보네트워크센터 · 참여연대

21대 대통령선거 디지털·AI 시대 민주주의 정책 요구

-알고리즘 편향, AI 안전·실업, 개인정보 오남용 문제 갈수록 심각
-차기 정부, 시민 권리와 환경 희생 없는 디지털 민주주의 국가 지향해야

1. 오늘(4/30) 전국의 30개 인권· 노동· 언론· 환경· 소비자 등 시민사회단체는 오전 11시 종로구 참여연대 아름드리홀에서 <“AI 시대 민주주의와 인권을 말하는 대통령이 필요하다” 시민사회, 21대 대통령선거 디지털·AI 시대 민주주의 정책 요구> 기자회견을 갖고 차기 정부가 수립해야 할 디지털·AI 정책을 제안했다. 21대 대선을 앞두고 후보자들이 AI 진흥 정책을 너도나도 내놓고 있다. 하지만 대부분의 AI 정책들은 AI의 혜택을 부각시키며 AI 산업의 진흥에 주력하고 있다. 단체들은 급속히 발전하는 AI가 우리 사회에 미칠 영향에는 혜택과 위험이 모두 있을 수밖에 없다고 지적했다. 따라서 국가 정책은 이 두 가지 측면을 균형있게 반영해야 한다고 주장했다.

2. 사회 곳곳에서 활용되는 AI에 직간접적으로 영향을 받는 시민에 대한 고려가 반드시 있어야 한다. 그럼에도 AI 정책은 주로 전문가 주도의 경제중심적이고 기업 위주의 기술정책 거버넌스에서 정해지고 있다고 단체들은 지적했다. 이 과정에서 실제로 인공지능의 영향을 받는 국민들은 배제되어 왔다는 설명이다. 단체들은 행정, 교육, 복지 등 공공분야뿐 아니라 사회곳곳에서 알고리즘이 사람을 평가하고 결정하고, 로봇들이 점점 더 삶과 노동 공간에 등장하고 있으며, 알고리즘이 장악한 공론장, 딥페이크 기술과 결합한 보이스피싱, 디지털성폭력 등의 문제가 심화되고 있다고 평가했다. 이미 무시할 수 없는 이와 같은 문제들을 기업의 선의나 자율에만 맡겨둘 수는 없다는 진단이다. 이에 단체들은 차기 정부가 그동안 경제·기술 중심적 디지털·AI 정책에서 실제로 영향을 받는 시민들을 반드시 고려하는 인권과 민주적 디지털·AI 시대를 열어야 한다고 주장했다.

3. 단체들은 차기 정부에서 추진해야 할 주요 디지털·AI정책 대주제로 첫째, AI 안전과 실업 문제에 대한 국가적 대응 체계 구축, 둘째, 알고리즘 편향과 디지털 차별 방지, 셋째, 빅테크의 데이터 및 자원 남용 방지를 제안했다. 각각의 대주제에 대해서는 구체적인 세부과제를 제시하며 구체적인 방향을 제안했다.

4. 이날 기자회견 참석자들은 AI가 실제로 노동 안전, 일자리에 주는 위협과, 공론장 파괴, 기후위기, 환경파괴 및 딥페이크로 인한 성폭력, 차별 등의 문제를 야기하는 현실을 증언하며 차기 대통령은 AI 진흥만 얘기할 것이 아니라 인권과 민주주의 가치를 훼손하지 않도록 AI 위험 대책도 반드시 제시해야 한다고 주장했다. 끝.

▣ 붙임 1 : 기자회견 개요
제목 : 21대 대통령선거 디지털·AI 정책 시민사회 제안 “AI 시대 민주주의와 인권을 말하는 대통령이 필요하다”
일시 및 장소 : 2025. 4. 30. (수) 오전 11시 / 참여연대 아름드리홀 2층
내용
사회 김희순 참여연대 권력감시1팀장
분야별 AI 관련 문제
1) 노동 안전, 일자리에 주는 위협 : 김은진 민변 디지털정보위원회, 노동위원회 위원
2) 공론장 파괴와 플랫폼 책임 : 김동찬 언론연대 정책위원장
3) 기후파괴 등 환경위협 : 이민호 서울환경연합 기후행동팀장
4) 딥페이크로 인한 성폭력, 차별 등 사회문제 심화 : 희우 진보네트워크센터 활동가
시민사회가 요구하는 차기 정부의 AI 정책 제안 주요 내용 : 장여경 정보인권연구소 상임이사

▣ 붙임 2 : 21대 대통령선거 디지털·AI 정책 시민사회 제안서

▣ 붙임 3 : 기자회견 참석자 주요 발언

2025년 4월 30일
건강권실현을위한보건의료단체연합, 광주인권지기 활짝, 대구인권운동연대, 무상의료운동본부, 문화연대, 미디어기독연대, 민주사회를위한변호사모임, 민주언론시민연합,블랙리스트 이후, 서울YMCA 시민중계실, 서울환경연합, 소비자시민모임, 언론개혁시민연대, 인권운동공간 활, 인권운동사랑방, 전국교직원노동조합, 전국민주노동조합총연맹, 전북평화와인권연대, 정보인권연구소, 제주평화인권연구소왓, 진보네트워크센터, 차별금지법제정연대, 참여연대, 참여자치지역운동연대(대구참여연대· 대전참여자치시민연대· 마창진참여자치시민연대· 부산참여연대· 성남참여자치시민연대·세종참여자치시민연대·여수시민협·울산시민연대· 익산참여연대·인천평화복지연대· 제주참여환경연대·참여연대·참여와 자치를 위한 춘천시민연대· 참여자치21(광주)·참여자치전북시민연대·충남참여자치지역운동연대·충북참여자치시민연대·투명사회를 위한 정보공개센터 전국 18개 단체), 천주교인권위원회, 투명사회를위한정보공개센터, 표현의자유와언론탄압공동대책위원회, 한국소비자연맹, 한국여성민우회, 환경운동연합 (이상 30개 단체, 가나다순)