지금 왜 인공지능 윤리인가?

 

지금 왜 인공지능 윤리인가?

 

전창배 한국인공지능윤리협회 이사장

 

  최근 전 세계에 인공지능 윤리가 화두가 되고 있다. 우리나라에서도 ‘딥페이크’와 ‘이루다’ 사건을 통해 인공지능 윤리에 대한 관심이 크게 늘어나고 있다. ‘인공지능 윤리’(AI Ethics)란 누가 만든 용어가 아니라, 인공지능 기술이 급격히 발달하고 활용되면서 2010년대 초에 자연스럽게 등장한 개념이다. 이는 말 그대로 인공지능에 관한 윤리라는 뜻으로, 인간이 인공지능을 만들고 사용하면서 생기는 모든 윤리적, 도덕적 문제들을 일컫는다. 기술이 발전하면서 인공지능은 물론 인간을 편리하게 해주고 행복하게 해주는 기술로써 다방면에 활용되고 있지만, 반대로 인간에게 피해를 끼치거나 위험을 야기하는 일들도 발생하고 있다. 인공지능 윤리는 이렇게 AI 기술 이면에 잠재된 위험성과 부작용 문제를 미연에 방지하고 해결하고자 하는 데 그 목적을 두고 있다. 

  그렇다면 이러한 인공지능 윤리 문제의 해결은 어떻게 이루어져야 할까? 크게 두 가지 측면으로 접근할 수 있다. 첫째는 인공지능 자체의 윤리적인 측면이다. 향후 인간과 흡사한 외모를 갖고 자율적으로 행동을 하는 휴머노이드나 안드로이드 로봇 등이 개발되고 대중화된다면 이들이 양심과 윤리를 갖고 행동하도록 해야 한다. 이렇게 기계들을 선하고 윤리적으로 만들기 위해서는 결국 인간의 ‘양심’과 ‘윤리’를 연구하여 그것을 인공지능과 기계에 주입하고 교육해야 한다. 하지만 여기에는 딱 떨어지는 정답이 있는 것이 아니다. 그렇기에 여러 학자들과 시민들이 지속적으로 이를 연구하고 논의해야 한다. 다행이라면 아직까지는 약인공지능(Narrow AI) 단계로, 인공지능과 로봇이 인간과 동등한 자율적 능력을 지니는 강인공지능(General AI) 단계로 가기까지 시간이 남아있다는 점이다. 현재 전 세계의 학자들과 연구기관들이 인공지능에게 가르쳐야 할 인간의 양심과 윤리에 대한 연구를 개시한 상황이다.

  둘째는 인공지능을 만들고 사용하는 인간의 윤리 측면이다. 인공지능을 개발하는 것도 인간이고, 사용하는 것도 결국 인간이다. 따라서 인간이 인공지능을 양심적으로 만들고 바르게 사용하면 윤리와 안전 문제는 예방할 수 있다. 따라서 현재 약인공지능 단계에서 가장 중요한 인공지능 윤리 문제는 바로 인간의 윤리 문제라고 볼 수 있다. 한편, ‘이루다’ 사례에서처럼 인공지능의 편향성, 기술의 악용, 개인정보 유출 등의 문제를 야기한 개발사와 사용자들에 대한 규제 및 처벌의 목소리가 대두하게 되었다. 물론, 실정법을 위반한 부분에 대해서는 처벌을 하고 규제를 해야 하지만, 인공지능 기술과 산업이 인간에게 가져다주는 가치를 생각해본다면 처벌과 규제만이 능사가 아닐 수 있다.

  예를 들어, 인공지능을 학습시키기 위한 ‘개인정보의 활용’의 측면은 양날의 검일 수 있다. 인간에게 편익과 행복을 가져다주는 인공지능 제품들이 나오려면 양질의 데이터를 통한 학습이 필수이다. 하지만 무차별적인 개인 데이터의 수집은 프라이버시권을 침해하고 인간의 인격권을 훼손시킬 수 있다. 따라서 우리는 인간을 풍요롭게 하는 인공지능의 발전과 개인정보의 보호 사이에 적절한 균형점을 찾아야 한다. 국가든 기업이든 개인의 데이터를 인공지능의 학습을 위해 수집하고 활용하고자 할 때에는 합법적인 절차에 따라 명확한 사전 고지와 동의 절차를 철저하게 지켜야 한다. 한편 적법한 고지와 사전 동의를 받은 개인 데이터들은 비식별화·익명화 조치 후 기업들이 제품과 서비스 개발에 활용할 수 있는 길도 열어주어야 한다.

  지금 우리는 인공지능의 과도기에 놓여있다고 볼 수 있다. 과도기에는 시행착오가 생길 수 있다. 그러나 시행착오를 최대한 예방하고, 일어나더라도 피해를 최소화하기 위해 인공지능윤리가 필요한 것이다. 인공지능을 너무 두려워할 필요도 없지만 그렇다고 과신해서도 안 된다. 인공지능 기술이 가져올 이익과 역기능을 명확히 인식할 때, 진정 인간과 인류에게 도움과 행복만을 가져다주는 기술로써 활용할 수 있다.

  이것을 가능케 하기 위해서 가장 중요한 것이 바로 ‘교육’이다. 당연히 전문성을 키우기 위한 인공지능기술 교육도 중요하지만 이에 못지않게 중요한 것이 바로 인공지능윤리 교육이다. 이를 통해 우리는 인간과 인공지능의 관계와, 인간과 인공지능이 함께 공존하며 나아갈 바람직한 방향에 대해 명확히 알 수 있다. 그런데 최근에 많은 대학들이 인공지능 대학원과 학과들을 개설하고 있는 반면, 인공지능윤리 교육에 대해서는 뚜렷한 교육 과정을 마련하지 않아 심히 우려스럽기도 하다. ‘AI 선진국’인 미국, 캐나다 등에서는 대학에서 인공지능 전체 교육 중 인공지능윤리 교육이 필수과목으로 지정되어 있다. 이렇게 대학에서 기술 교육만이 아니라 인공지능윤리 교육이 함께 강조되어야 ‘이루다’ 사건과 같은 인공지능 윤리 문제들이 지속적으로 발생할 가능성을 줄일 수 있다. 다행인 것은 정부에서 작년 디지털 뉴딜 정책을 발표하면서, 인공지능 기술뿐만 아니라 인공지능윤리 부문에도 투자와 지원 정책을 마련하겠다고 발표했다는 점이다. 하지만 최근 인공지능기술의 발전 속도와 인공지능이 미치는 사회적 영향력을 고려할 때 보다 신속한 방안과 정책 제시가 시급해 보인다.

  마지막으로 대학원생 여러분들의 역할이 매우 중요하겠다. 이제 인공지능 기술은 모든 산업 영역과 시장 분야에서 활용되게 된다. 4차산업 시대, 인공지능 시대에 우리는 이제 기술과 함께 살아가야 하며, 더불어 안전하고 행복한 삶 속에서 살아가야 한다. 이제 막 인공지능 윤리가 대두되고 있는 이 시점에 대학원생 여러분들이 인공지능 윤리에 더욱 관심을 갖고 연구해 주시고 많은 목소리를 내주시길 당부드린다.