정부, 신뢰할 수 있는 AI 전략 마련…"사람 중심 '인공지능 강국' 도약 추진"

조무정 기자 / 기사승인 : 2021-05-14 15:51:05
  • -
  • +
  • 인쇄
- 과기정통부, 기술·재정적 상황 열악한 스타트업 등 '데이터 확보→ 알고리즘 학습→ 검증' 통합 지원 플랫폼 운영 계획 [일요주간 = 조무정 기자] 4차 산업혁명을 견인하는 범용기술인 인공지능(AI)이 전 산업·사회에 빠르게 도입·확산하며 혁신을 창출하고 있다. 그러나 확산에 따른 예상하지 못한 사회적 이슈와 우려도 함께 대두하고 있다.


주요국은 AI에 대한 사회적 신뢰 확보를 AI의 사회적·산업적 수용의 전제 요소로 인식하고, AI의 신뢰성을 강조하며 그 실현을 위한 적극적인 정책을 추진하고 있다.

특히 유럽(EU)은 사람에게 부정적 영향을 미칠 수 있는 고위험 AI를 중심으로 한 제도 정립을 선도하고 있다. 미국은 기술개발과 민간 자율규제를 중심으로 AI에 대한 신뢰성 확보를 추진하고 있다. 

 

▲ ‘데이터 확보 → 알고리즘 학습(컴퓨팅) → 검증’ One-Stop 지원 플랫폼 구성안. (사진=과학기술정보통신부)

과학기술정보통신부가 이러한 흐름 속에서 사람이 중심이 되는 ‘인공지능 강국’으로 도약하기 위해 신뢰할 수 있는 AI 실현을 위한 지원 정책이 조속히 필요하다고 판단해 13일 인공지능 실현전략을 발표했다.

과기정통부에 따르면 이번 전략은 지난해 발표한 ‘인공지능 윤리기준’의 실천방안을 구체화하고, 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담은 것이 특징이다.

이번 전략은 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 2025년까지 단계적으로 추진된다.

우선 민간에서 AI 제품·서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업과 개발자, 제삼자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

또 기술·재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 AI 구현을 위한 ‘데이터 확보→ 알고리즘 학습→ 검증’을 통합 지원하는 플랫폼을 운영한다.

이미 구현된 시스템에 AI가 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, AI 스스로 법·제도·윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 AI의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발을 추진한다.

아울러 민·관이 AI 학습용 데이터 제작 공정에서 공통으로 준수해야 할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축할 수 있도록 확산한다.

이와 함께 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 AI의 범주를 설정하고, 서비스 제공 전에 해당 AI의 활용 여부를 이용자에게 고지하도록 할 계획이다.

고지 이후 해당 AI 기반 서비스에 대한 이용 거부, AI의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화에 대해서는 글로벌 입법·제도화 동향, 산업적 파급력, 사회적 합의·수용성, 기술적 실현 가능성 등을 고려해 종합적으로 중장기 검토할 계획이다.

AI가 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위해 ‘지능정보화기본법’에 규정된 사회적 영향평가도 도입한다.

AI 윤리 교육도 강화한다. AI가 사회에 미치는 영향, 인간-AI 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 AI 윤리교육 총론을 마련하고, 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발한다.

AI 윤리기준에 대한 구체적인 행위지침으로 연구·개발자, 이용자 등이 업무, 일상생활 등의 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발해 보급한다.

최기영 과기정통부 장관은 “기업·연구자 등이 AI 제품·서비스 개발 과정에서 혼란을 겪거나 이로 인해 국민이 피해 보지 않도록 AI 신뢰 확보 기준을 명확화하고, 기술적·재정적으로 부족한 중소기업 등이 신뢰성 기준을 준수하는 데 어려움이 없도록 지원 방안을 마련하는 등 사람이 중심이 되는 AI 강국 실현을 위해 이번 전략을 차질 없이 추진하겠다”고 말했다.

 

[저작권자ⓒ 일요주간. 무단전재-재배포 금지]

오늘의 이슈