[시사터치] AI는 죄가 없다. 사람이 문제다

People / 최충웅 언론학 박사 / 2021-01-22 15:31:09
  • 카카오톡 보내기
▲ 최충웅 언론학 박사
[일요주간 = 최충웅 언론학 박사] 인공지능(AI)이 환자 상태를 의사들보다 더 정확하게 진단하고 빨리 처방해 주며, 손가락 스캐닝으로 30초 안에 빈혈을 판별할 수 있는 '헤모글로빈 모니터'도 나왔다. 인기 로봇청소기 제트봇AI 등은 지난 14일 미국 라스베이거스에서 막을 내린 세계 최대 가전·정보기술 전시회인 국제전자제품박람회 'CES 2021'에 나온 올해 인기 히트작들이다. 인간에게 보다 편리한 제품으로 진화시킨 핵심기술은 역시 AI다. 지난 50년간 미래 핵심 기술로 지칭된 인공지능(AI)은 음성인식, 검색, 모빌리티, 통신 등 삶의 동반자로 거듭나고 있다.

2016년 이세돌 바둑 9단과 구글의 ‘알파고(Alpha Go)’와의 세기적 대결에서 1승 4패로 인공지능(AI)에 대한 화두가 높아졌다. 이제 AI 펀드매니저가 편성한 펀드수익률이 일반펀드보다 높다거나, 일반 애널리스트가 추천한 종목보다 더 많은 투자수익을 올려주기도 한다. 건강 식단을 추천하고 요리법도 알려준다. 식자재가 필요할 때는 자동으로 주문하고 요리까지 해준다. AI는 이미 세상을 바꾸는 '게임 체인저'가 됐다. 앞으로 전 산업에 더 빠른 속도로 응용되면서 생산성과 인간 생활에 혁명을 일으킬 것이다. AI를 수용하는 수준에 따라 승패가 갈리는 세상이 됐다.

인간에게 이렇게 편리하고 만능처럼 보이는 AI로부터 역습을 당하기도 한다. 최근 논란이 많은 ‘이루다’ 사례이다. 국내 인공지능 채팅로봇 ‘이루다’ 서비스가 출시 20여 일 만에 중단됐다. 사람과 같은 채팅 서비스로 지난해 12월 23일 출시되자 10~20대 사이에서 빠르게 유행했다. 3주 만에 약 80만 명의 이용자를 끌어 모은 인기 챗봇으로 떴으나, 성소수자 혐오, 개인정보 유출 등 논란에 휩싸이면서 서비스가 중단됐다.

‘이루다’는 지난 연말 국내 AI개발 전문 스타트업 ‘스캐터랩’이 출시한 애플리케이션(앱)이다. 이용자가 PC(개인용 컴퓨터)나 스마트폰에 설치한 앱으로 문자메시지를 보내면 AI 프로그램이 실제 사람처럼 답변한다. 개발업체는 ‘이루다’에게 사람과 같이 성(姓)은 이, 이름은 ‘루다’인 20세 여대생으로 아이돌을 좋아하는 캐릭터를 부여했다.

‘이루다’는 사람들과 친근한 대화를 나누도록 설계된 AI챗봇(chatter robot·사람과 자연스레 대화할 수 있는 컴퓨터 프로그램)이다. 챗봇이란 채팅로봇을 말한다. 실제 사람과의 대화를 딥러닝(deep learning·프로그램의 자가 데이터 분석·학습)하여 이용자가 채팅 방식으로 질문하면 인공지능이 답하는 대화방식이다.

개발사 스캐터랩은 실제 연인들이 나눈 대화 100억 건 가량의 데이터를 학습시킨 것으로 알려졌다. 일부 이용자들이 던진 성희롱성 발언과 이에 대한 ‘이루다’의 답변이 문제가 되자 혐오·차별 발언을 학습한 게 아니냐는 논란이 일었다. 게이·레즈비언·트렌스젠더와 같은 특정 단어가 포함된 내용과 ‘성소수자를 어떻게 생각하느냐’는 질문에 ‘혐오스럽다’고 답하는 등 부정적인 답변을 내놨기 때문이다. 뿐만 아니라 흑인에 대해선 ‘징그럽게 생겼어’ ‘깡패 같아’, 장애인을 두고선 ‘(인권도) 없음 인생 잘못 살았음’이라고 답하기도 한 것으로 알려졌다. ‘이루고 싶은 게 뭐냐’는 질문에는 ‘건물주 월세받아 먹고 살기’라고 응답하기도 했다.

챗봇은 금융기관을 비롯한 여러 기관에서 고객 상대 서비스용으로 활용사례가 증가되고 있다.
휴대전화의 AI비서 기능을 활용하는 사람들은 “어지간한 사람보다 낫다”고 한다. 오늘의 일정을 체크해주는가 하면, 교통상황과 날씨도 알려주고, 궁금한 뉴스까지 척척 대답해주기 때문이다. 그렇지만 AI가 데이터 문제로 인해 사람의 뜻대로 작동되지 않아 예상치 못한 일이 발생하게된 것이 바로 ‘이루다’의 경우다.

이런 시행착오는 이미 해외 글로벌 기업들도 AI 서비스가 종종 논란이 된바 있다. 마이크로소프트 챗봇 '테이(tay)'는 2016년 "유대인이 싫다"는 등 백인 우월주의와 대량학살을 옹호하는 혐오발언을 쏟아내 16시간 만에 서비스가 중단됐다. 아마존은 2018년 AI 채용시스템이 여성 지원자를 차별하여 곧 바로 폐기했다. 남성 지원자가 많았던 과거의 이력서 데이터를 학습한 AI 때문이었다. 구글, 페이스북 등의 AI 서비스도 편견 때문에 곤욕을 치렀다.

잘못과 책임은 AI가 아니라 전적으로 사람에게 있다. 개발자, 학습용 데이터 생산자는 사람이다. 공정하고 차별 없는 AI 서비스를 만드는 책임은 AI가 아니라 사람이다. AI는 알고리즘과 데이터를 근간으로 작동하기 때문이다. ‘이루다’의 경우도 이를 학습시킨 사업자 스캐터랩이 보다 보편타당한 광범위한 데이터를 학습 자료로 활용하지 못한 결과이다.

‘이루다’ 처럼 AI 개발과 활용 과정에서 빚어진 윤리적 문제는 세계적으로 낯선 얘기가 아니다. 선입견과 사회적 편견 가득한 사람들의 데이터나, 사회적 책임이나 윤리의식이 부족한 개발자들이 AI를 만들 때, '나쁜 AI'가 탄생할 수밖에 없다. 인간이 보다 '편리한 세상' '행복한 세상' '더 나은 세상' 만을 추구한 나머지 AI를 단순한 '기술' 이나 ‘방편’ '도구'로 인식하고 비즈니스 수익모델로 몰아칠 경우 인간으로부터 비중립적 '편견'과 '사악함'을 학습한 AI는 어쩌면 인간을 역습하고 위협하는 '악마'로 돌변하게 될지 모른다.

하지만 세상이 신 기술 AI로 편승돼가는 대세를 거스릴수는 없다. AI 활용 기술이 우리 생활에 녹아들어 깊숙이 관여하며, 활용범위도 엄청나게 확대되고 있다. 향후 멀지 않은 미래에 AI는 의료, 입시, 채용, 재판, 금융, 자율주행 등 광범위하게 적용될 전망이다. 새로운 기술의 등장은 사회, 경제 전반에 획기적인 변화를 몰고 온다. 한국신용정보원은 2025년 전 세계 AI 시장 규모가 지난해 보다 5배 이상 늘어날 것으로 추산했다. AI를 사용하는 서비스와 기술이 늘어날수록 이에 따른 부작용도 커질 가능성을 배제하기 어렵다.

AI의 인간 따라잡기에서 AI가 가진 위험요소들을 제대로 통제하고 관리할 수 있어야 인류의 재앙을 막을 수 있다. 우선 AI는 인간의 계산능력을 뛰어넘어 압도하며 인간의 영역을 넓혀가고 있다. 그러나 AI로봇이 인간의 감정이나 가치판단 영역에는 아직 미흡한 부분이다. 하지만 ‘생각하는’ AI 등장은 이미 예고된바 있다. 지금 AI 발전 속도라면 인간이 통제할 수 없는 무서운 파괴력을 지닌 괴물로 진화할 것으로 예상된다. 이제 'AI와 윤리' 문제는 AI 일상화 시대, 우리가 고민해야 할 과제이다.

사람의 생명을 다루는 AI가 의료사고를 냈거나 실수했을 경우 법적인 책임문제가 대두될 것이다. 얼마 전 모 방송에서 고 김현식 가수를 AI기술로 복원하여 실감나게 공연한 영상을 선보였다. 이제 마이클 잭슨, 엘비스 프레슬리의 환생 공연이나, 유명 배우들이 부활해서 새로운 영화에 등장할 날이 닥쳐온 것이다. AI기술로 환생한 영상물의 저작권, 초상권 문제나 AI가 만든 창작물은 어디까지 법적으로 보호받을 수 있는지 등 문제가 제기될 수 있다.

AI 일상화 시대를 대비한 제도 개선과 법적 정비를 서둘러야 하는 배경이다. AI 보편화 시대에 맞춘 포괄적인 법, 제도 개선이 시급한 시점이다. AI가 학습하는 데이터가 사회 통념에 맞는지 개발자들이 철저히 점검해야 한다. AI 서비스를 활용하는 국민이나 사업자도 윤리규범을 진지하게 준수해야 한다. 정부가 지난 연말에 AI 시대 실현을 위해 법과 제도 정비를 위한 로드맵을 발표한 것은 다소 늦은 감이 있지만 다행이다.

지난해 12월 23일 대통령 직속 4차산업혁명위원회는 ‘인공지능(AI) 윤리기준’을 설정했다. 인간 존엄성·사회의 공공선·기술 합목적성 등 3대 기본원칙을 담고 있다. 하지만 전문가들은 국내 AI 윤리 기준이 현장에 적용하기에는 추상적이라는 지적이 나왔다. AI 학습의 기본이 되는 개인정보 빅데이터와 알고리즘 등의 시스템을 개선하고 AI 보편화 시대에 맞춘 포괄적인 법, 제도 개선을 점검하고 대비해야 할 때다. 핵 기술이 원전으로 생산적인 자원일 수도 있고, 핵폭탄으로 수많은 인명을 살상하는 무기가 될 수도 있다. 새로운 기술을 어떻게 활용하는지는 사람에게 달렸다. AI는 죄가 없다. 문제는 사람이다.

[필자 주요약력]
경희대 언론정보학부 교수
경남대 석좌교수
YTN 매체비평 출연
방송통신심의위원회 연예오락방송 특별 위원장
방송위원회(보도교양/연예오락)심의 위원장
언론중재위원회 위원
방송통신연구원 부원장
한국방송예술교육진흥원 원장
KBS 예능국장, TV제작국장, 총국장, 정책실장, 편성실장
중앙일보·동양방송(TBC) TV제작부 차장

 

[ⓒ 일요주간. 무단전재-재배포 금지]

최충웅 언론학 박사

최충웅 언론학 박사 / 칼럼니스트

choongwc@hanmail.net 다른기사 보기