인간의 죽음, 존재를 흔드는 인공지능 바로 보기

미래 AI 시대의 사회 변화에 대한 이해력과 통찰력을 제공하는 책!

글ㆍ사진 출판사 제공

2022.04.27

작게

크게

김명주 교수

“인공지능이 인류의 마지막 기술일 수 있다!”는 글로벌 리더들의 경고가 끊이지 않는다. 저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하면서 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 인공지능의 발전 속도와 영역 확산으로 인해 불가능하다고 말한다.

미래에 인공지능에게 배신당하지 않고 함께 살아가려면 지금 방어적 준비로써 ‘인공지능 윤리’에 대한 사회적 담론을 제안한다. 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 ‘AI 윤리의 교과서, 필독서’라며 강력하게 『AI는 양심이 없다』를 추천하고 있다.

‘양심이 없다’라고 말하면 보통 ‘비양심적’이라는 부정적인 평가로 들리잖아요, 이 책의 제목이 ‘AI는 양심이 없다’인데, 그러면 인공지능(AI)도 그렇다는 의미로 붙인 것인가요?

책 제목은, 인간이라면 누구나 가지고 있는 ‘양심’을 AI는 처음 만들어질 때부터 아예 가지고 있지 않다는 ‘객관적 사실’을 지적한 것입니다.

인간은 양심으로 인해 ‘윤리’를 의식하고, 윤리로 인해 생활 속에 만나는 각각의 상황에 대하여 옳고 그름을 판단합니다. 그런데 AI는 그 자체에 양심을 가지고 있지 않다 보니, 윤리도 없으며 옳고 그름의 판단도 스스로 하지 못합니다. 그러한 AI가 갈수록 인간을 대신하여 판단하고 결정하며 자리를 차지하는 경우가 많아지고 있는데, 이러한 것만큼 위험하고 두려운 경우는 없습니다. AI에게 ‘윤리’가 필요한 이유이고, 그것을 역설적으로 표현한 제목입니다.

‘인공지능 윤리’는 AI 연구 개발자나 관련 사업자에게 필요한 것 아닌가요? 시민들이나 AI 이용자에게는 그다지 필요해 보이지 않는데요?

지금까지 전 세계적으로 다루어온 AI 윤리의 대부분은 전문가를 대상으로 만들어졌습니다. 그런데 AI는 이미 우리 생활 속 깊숙이 그리고 곳곳에 들어와 있어서, 이제 시민들이나 AI 이용자들도 AI 윤리를 알지 못하면 큰 혼란과 부작용에 처할 가능성이 매우 높아졌습니다. 예를 들어, 자율주행차가 완전 자율주행 모드에서 교통사고를 냈을 경우 이용자는 속수무책으로 당할 수밖에 없습니다.

신입사원 AI 면접을 치를 때 AI가 ‘특정인’에 대한 편견을 가지고 있어서 차별하여 떨어뜨린다면 그가 취할 수 있는 조치란 거의 없습니다. AI가 너무나 사람 같아서 반려동물 이상으로 주인과 친밀도가 높아질 경우, 어떤 주인은 AI를 배우자나 자녀처럼 대하고 싶어 할 것이며 유산을 상속해줄 수도 있습니다. 아마 우리 중 일부는 머지않아 며느리나 사위로 AI를 맞이해야 하는 충격에 처할 수도 있습니다. AI가 죽은 사람을 ‘디지털 부활’시켜 살아 있는 사람과 경쟁하도록 만드는 상황도 이미 벌어졌습니다.

결국, 시민들과 AI 이용자들이 AI 윤리를 통해 새로운 변화에 대해서 올바른 판단을 할 수 있을 때 올바른 AI 제품과 서비스가 만들어집니다. 그래서 AI 윤리는 개발자나 사업자보다 시민들과 AI 이용자에게 더 많이 필요하다는 것이 저의 오랜 주장입니다.

AI 윤리가 그렇게 중요하다면 차라리 ‘법’으로 제정하여 강제성을 두면 더 편리하지 않을까요? AI의 부작용과 역기능을 처음부터 법으로써 방지할 수는 없나요?

‘법은 윤리의 최소한이며, 법은 윤리의 바다 위에 떠 있는 배이다. 윤리가 없는 법이란 존재할 수 없다’는 말이 있습니다. 법은 인간의 외부로 드러난 행동과 결과에만 관여하는 반면, 윤리는 법의 영역을 포함하면서도 표출되지 않은 생각과 태도까지도 민감하게 다룹니다. 그래서 어떤 사안에 대하여 먼저 윤리가 세워진 후 이를 기반으로 법정서가 어느 정도 무르익었을 때 최소한의 제한 사항을 담아 법을 제정하는 것이 가장 자연스러운 흐름입니다.

특히 AI의 경우, 법보다는 윤리로 선제 대응해야 하는 특별한 이유가 있습니다. 그것은 AI의 뛰어난 발전 속도와 엄청난 확산 능력 때문에 현실적으로 법이 AI가 만들어내는 상황을 따라갈 수가 없기 때문입니다. 아울러 AI가 미치는 사회 영역 역시 광활하여 모두를 한곳에 집약하여 소수가 관리하는 것 자체가 불가능합니다. 따라서 법보다는 윤리를 통한 사회적 담론 형성과 구성원들의 합의 노력이 충분히 선행되어야 합니다.

AI는 아직 시작 단계의 기술입니다. 처음부터 윤리를 통해서 기술 발전의 발목을 잡는 것은 바람직하지 않아 보이는데요?

2021년 1월에 등장한 ‘이루다’는 특정 주제에 한정하지 않고 일반적인 대화가 가능한 범용 AI 챗봇인데, 성능평가지표인 SSA가 78%에 달할 정도로 매우 우수했습니다. 그런데 차별과 편견의 문제, 개인정보 유출의 문제들에 부딪혀 결국 오픈한 지 3주 만에 서비스를 전격 중단하고 말았습니다.

처음 개발할 당시부터 사회적으로 요구하는 윤리적 수준을 충분히 반영했더라면, AI를 이용할 때 벌어질 수는 다양한 갈등 상황에 대하여 충분히 고려했더라면 이 같은 사태까지 가지 않았을 것입니다. 이처럼 윤리는 기술 개발과 사업 운영에 걸림돌이 아니라 오히려 지속 가능한 발전과 경영을 가능하게 해줍니다.

AI가 만들어낼 미래를 걱정하는 사람들이 많습니다. 공상과학영화에 나오는 미래의 디스토피아가 현실적으로 올 수 있다고 생각하나요?

무분별한 AI 활용으로 인한 우울한 미래는 충분히 현실성이 있습니다. 이 책에서는 AI가 인간의 전통적 가치를 마구 흔들어대는 상황들을 실례를 들어 제시하고 있습니다. 예를 들어, 죽은 자를 인공지능이 디지털 부활시켜 새로운 변화를 초래하고 신규 사업도 가능하게 함과 동시에 사자 명예훼손, 유산 상속의 문제, 산 자와의 무한 경쟁 돌입 등의 사회적 문제도 함께 몰고 올 것입니다.

또한, 진짜 인간이 아닌 가상인간이 광고에 등장하고, 노래를 부르며 인플루언서로서 활동하고 있습니다. 진짜 인간과 가상인간의 관계 정립, 본인 여부의 확인, 메타버스 안에서의 일탈 행위 등은 새로운 사회적 문제가 될 것입니다.

AI 때문에 우리는 큰 곤경에 처할 날도 많아지며 불안한 시간도 늘어날 것입니다. AI에 대한 바른 시각과 제대로 된 이용 기준을 처음부터 고려하지 않으면 우리 사회는 큰 혼란과 두려움 속에 우울한 사회적 변혁을 맞이할 것이며 큰 후회를 하게 될 가능성이 큽니다.

『AI는 양심이 없다』 표지 일러스트

책 표지 디자인이 독특한데, 어떤 의미가 있을까요?

가운데 검은 존재는 ‘우리 인간’ 자신을 의미합니다. 그를 둘러싼 것은 인간 모습을 한 휴머노이드 AI입니다. 인간의 질병을 진단하는 AI 의사, 음악을 연주하며 노래하는 AI 가수, 법을 다루는 AI 변호사, 전쟁을 대신하는 AI 전투 로봇 등입니다. 실제로 현재 각각의 영역에서 모두 상당한 실적을 보여주고 있는 대표적인 AI들입니다.

이들 AI 모두에게는 양심이 없기 때문에 처음부터 우리가 AI 윤리를 고려하지 않을 경우, 인간의 입지는 자꾸 좁아지게 되며 인간을 위한 AI가 아니라 AI를 위한 AI로 전락할 가능성을 보여줍니다.

AI 자체가 어려운 기술이고, 윤리도 좀 딱딱한 주제잖아요. 일반 독자들이 읽어도 충분히 이해할 수 있을까요?

윤리가 자칫 재미없고 딱딱하게 느껴질 수 있기에, 보다 쉽게 풀어서 이야기했고 사례와 사건 중심으로 윤리 이슈를 흥미롭게 풀었습니다. 이 책을 통해 독자 여러분이 AI 윤리의 큰 틀을 소유한 훌륭한 ‘디지털 시민’으로 거듭나길 기대합니다.

*김명주

서울대학교 컴퓨터공학과를 졸업한 후 같은 대학원에서 석사와 박사 학위를 받았다. 서울대학교 컴퓨터신기술공동연구소 특별연구원을 거쳐, 서울여자대학교에 교수로 부임하여 올해로 27년째를 맞는다. 1995년부터 서울지방검찰청 특수부에서 컴퓨터범죄 사건에 대한 수사 자문을 맡기 시작했다. 법무연수원에서 검사와 수사관을 대상으로 컴퓨터범죄 수사 기법을 상당 기간 교육했다. 교육을 마칠 즈음 사이버 수사 전담 부서가 검찰과 경찰 안에 신설되었다. 이 과정에서 정보 보호와 디지털 윤리가 갈수록 중요함을 느껴 바로 실천에 옮겼다. 2001년 수도권 최초로 서울여자대학교에 정보보호학과를 신설하고, 2014년 국내 최초로 교육부 지정 정보보호영재교육원도 설립하였다.