국회입법조사처(처장 김만흠)는 15일, '‘이루다’를 통해 살펴본 인공지능 활용의 쟁점과 과제'를 다룬 『이슈와 논점』보고서를 발간했습니다.

 인공지능 챗봇 ‘이루다’가 대화 도중에 차별・혐오 표현을 하여 출시 20일 만에 서비스가 전면 중단되었는데, 이를 인공지능의 안정적 활용과 발전에 필요한 대안을 마련하는 계기로 삼아야 할 것입니다.

 가장 중요한 과제는 개인정보 처리의 사전동의와 사후통제의 조화입니다.

 이루다 개발자가 연인들의 대화를 인공지능 기계학습에 활용하는 과정에서 「개인정보 보호법」의 사전동의를 형식적으로 거친 것이 문제가 될 수 있습니다.

 앞으로 이러한 문제가 반복되지 않도록 사전동의 제도의 실효성을 높이고 사후통제를 강화하여 사전・사후 조치의 조화를 이룰 필요가 있습니다.

 또한 개인정보 가명처리의 기준을 명확히 하고, 특히 비정형 개인정보의 가명처리와 재식별 방지에 관한 방안을 마련할 필요가 있습니다.

 다음으로, 인공지능 윤리기준을 구체화할 필요가 있습니다.

 인공지능은 사람들의 생각에 영향을 미치고 동시에 사람들의 반응을 지속적으로 기계학습하여 알고리즘을 수정하기 때문에 인공지능 개발자와 이용자 모두 인공지능 윤리를 준수하는 것이 중요합니다.

 따라서 많은 사람들이 인공지능 윤리를 일상적으로 실천할 수 있도록 정부의 「인공지능(AI) 윤리기준」을 구체화하고 발전시킬 필요가 있습니다.

 마지막으로, 적정 수준의 인공지능 학습데이터를 확보하여야 합니다.

 인공지능의 경쟁력은 데이터에 있지만 국내 데이터 시장은 태동 단계이고, 특히 중소기업・스타트업의 학습데이터 확보 여건이 좋지 못합니다.

 따라서 필요한 분야에 적정 수준의 인공지능 학습데이터가 제공될 수 있도록 단기적으로 정부의 노력을 강화할 필요가 있습니다.

저작권자 © 뉴스캔 무단전재 및 재배포 금지