일요주간 - 시민사회단체, ′무방비 상태의 고위험 AI′ 법적 안전장치 촉구

민주사회를위한변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대 등 시민사회단체들은 지난 2일 과학기술정보통신부(과기부)에 공동 의견서를 제출하고 “고영향 AI 해당 분야를 구체적이고 폭넓게 시행령에 포함하고 시민의 인권과 안전을 보호할 안전조치를 명확히 규정해야 한다”고 주장했다.

이들 단체는 과기부가 시행령 초안 마련 작업에 착수했으나 시민사회는 전적으로 배제돼 있는 상황이라고 비판했다. 정부는 초안 발표 후 의견수렴 절차를 예고했지만, 이미 뼈대가 완성된 상황에서 실질적인 반영이 가능할지 우려가 제기된다.

◇ “EU 시민에게는 금지되는 AI가 한국 국민에게는 무방비로 허용”

시민사회가 제시한 주요 요구사항은 다음과 같다. ▲고영향 인공지능의 범위 확대 및 구체화 ▲국방·안보 목적 AI의 별도 입법 필요 ▲국가인공지능위원회 회의록 공개 및 이해당사자 참여 보장 ▲정부 지원 학습용 데이터의 법령 준수 및 위반 시 지원회수 조치 ▲공공기관 AI 시스템 등록 의무화 ▲데이터센터 에너지 사용 정보 공개 ▲범용 AI 등 고위험 AI에 대한 위험완화 의무 부과 및 정보 공개 ▲고영향 AI 확인 시 소관부처 협의 의무화 ▲AI 개발자와 이용자의 책무 구분 ▲정부·공공영역 AI에 대한 영향평가 의무 및 결과 공개 등이다.

특히 시민사회는 인공지능기본법 제2조가 정의하는 고영향 인공지능의 범위가 지나치게 협소하다고 지적하며 생체인식·사법행위·이민관리·노무관리·선거 등 시민의 기본권에 중대한 영향을 미치는 분야는 시행령에서 반드시 고영향 AI로 명시해야 한다고 주장했다.

또한 유럽연합(EU)의 인공지능법과의 격차도 지적됐다. EU는 특정 고위험 AI는 개발 자체를 금지하고 있지만 국내 인공지능기본법은 금지 개념조차 부재하다는 것이다. 이들은 “EU 시민에게는 금지되는 AI가 한국 국민에게는 무방비로 허용되고 있다”고 비판했다.

국방·안보 목적의 AI를 법 적용 대상에서 제외한 제4조에 대해서도 강한 우려를 표명했다. “군사용 AI와 통상적 AI를 구분하기 어려운 상황에서 법 적용을 배제하는 것은 위험하다”며 “시행령이 아닌 법 개정을 통해 해당 조항은 삭제돼야 한다”고 강조했다.

이 외에도 학습용 데이터, 에너지 사용, AI 투명성 확보 방안 등 각 조항별로 세부적인 개정 방향도 제시했다. 예를 들어 학습용 데이터에는 개인정보 보호와 저작권 준수를 명시하고 위반 시 정부 지원 회수를 가능케 해야 한다고 했다. 또한 데이터센터의 에너지 사용 정보를 공개해 기후위기 대응에 기여해야 한다고 주장했다.

시민사회는 “개발자와 이용자의 책무를 구분하고 공공분야 AI 시스템에 대한 사전·사후 영향평가를 의무화해야 한다”며 “특히 공공서비스에 도입되는 AI 시스템은 평가 결과를 반드시 공개해야 한다”고 말했다.

국가인공지능위원회에 영향을 받는 시민 또는 시민 대표의 참여를 보장하고 중복투자를 막기 위한 AI 시스템 등록제 도입도 요구사항에 포함됐다. 또한 ‘인공지능윤리기준’은 국제 기준에 부합하게 수립되어야 한다고 덧붙였다.

이들 단체는 과기부가 하위법령안을 입법예고할 경우에도 지속적으로 의견을 개진하며 대응해 나가겠다는 방침이다.

[저작권자ⓒ 일요주간. 무단전재-재배포 금지]