2024년 9월 5일 유럽평의회는 [인공지능과 인권, 민주주의 및 법치주의에 관한 유럽평의회 기본 협약]을 공개했습니다. 이 협약은 인공지능 분야에서 법적 구속력이 있는 최초의 국제협약입니다.

첫 서명국가 10개국으로는 영국, 조지아, 노르웨이 등 유럽평의회 회원국 뿐 아니라 회원국이 아닌 미국, 이스라엘과 또다른 국제기구인 유럽연합이 참가하였습니다. 그 이후 캐나다, 일본 등이 추가로 서명하여 2025년 5월 현재 15개국이 참가한 상태입니다.

특히 유럽평의회 AI 국제협약은 AI로 인한 피해에 대하여 구제 조치를 강조하였다는 점에서 이 분야 국제표준이 될 가능성이 높습니다. 이 국제협약은 체결 당사국의 이행조치에 따라 국내법의 효력도 갖게 될 것입니다.

번역: 정보인권연구소(초벌번역은 기계번역의 도움을 받았습니다. 각주 제외)

발제: 장여경 (정보인권연구소)

<첨단 AI의 안전성에 관한 국제 과학 보고서> 주요 내용 톺아보기

2023년 11월, 영국에서 열린 AI 안전성 정상회의에서 인공지능의 위험성에 대한 과학적인 근거를 확보하고 규율을 모색하기 위한 <첨단 AI의 안전성에 관한 국제 과학 보고서>를 작성하기로 합의하였는데요.
그 중간보고서가 최근 발표되었습니다. 인공지능의 최신 연구 동향을 포함해, 800여 편의 논문을 수록하고 있는 이번 보고서는 첨단 인공지능의 기능과 위험, 그리고 현재의 과학적 수준에서 위험을 어떻게 측정하고 완화할 수 있을지, 논란이 되는 쟁점이 무엇인지 등을 다루고 있습니다.
인공지능이 시민의 안전과 인권에 미치는 해악에 대한 우려가 높아지고 있는 지금, 보고서의 주요 내용을 소개하는 웨비나를 진행했습니다.

ㅇ사회 : 김묘희 (법무법인 지향 변호사)
ㅇ발표
-범용 AI는 무엇을 할 수 있는가 ｜ 희우 (진보네트워크센터 활동가)
-범용 AI 시스템을 어떻게 평가할 것인가 ｜ 이은우 (법무법인 지향 변호사)
-범용 AI가 야기하는 위험의 종류 ｜ 장여경 (정보인권연구소 상임이사)
-범용 AI 위험 완화 위한 기술 ｜ 오병일 (진보네트워크센터 대표)