"단순한 운영체제가 아닙니다. 또 하나의 의식입니다."

2016년 3월 이세돌 9단과 인공지능 알파고의 바둑대결은 세상을 떠들썩하게 만들었다. 알파고는 전 세계 프로 바둑기사의 기보 3000만 수를 학습했다. 이후 알파고를 이기는 알파고 제로가 나왔다. 그런데 알파제로는 인간의 기보를 학습하지 않고, 딥러닝에 의해 스스로 성장하는 인공지능이다. 알파고는 인간의 실력을 토대로 바둑의 정석을 배웠지만 알파고 제로는 수천만 번의 연습을 통해 스스로 바둑의 정석을 깨달아 인간을 뛰어넘는 독특한 정석을 개발한 것이 그 차이다. 인공지능은 학습을 위한 빅데이터가 필요한데 알파제로는 스스로 빅데이터를 구축하는 셈이다. 이 알파고 제로를 넘어서는 알파제로가 다시 등장했다고 한다. 인공지능은 이제 무한성장을 향해 질주하고 있다.

영화 `그녀`와 알파고와 알파제로가 말해주는 것은 인공지능이 이제 자율성과 학습능력을 가지고 빅데이터를 구축해서 직접적인 인간의 통제 없이도 스스로 결정하고 행동할 수 있게 되었다는 점이다. 인공지능은 앞으로 인간을 도와서 때로는 인간을 대신해 다양한 분야에 진출해서 긍정적이든 부정적이든 놀라운 성과를 내놓을 것이다.

2014년 가을 인공지능이 인간에게 어떤 영향을 끼칠 것인가에 관해 100년간 연구하려는 프로젝트를 수행하는 `인공지능 100년 연구`(AI100)라는 이름의 연구단이 미국에서 출범했다. 목표는 인공지능을 안전하고, 공평하고, 이로운 방향으로 발전시키는 데 안내자 역할을 하는 것이다. 이 연구단이 2016년 9월 초에 발표한 `2030년대의 인공지능과 생활`이라는 보고서는 인공지능의 영향력이 증가할 것으로 예상되는 8개의 분야로 교통, 의료, 교육, 사회복지, 사회안전, 일자리, 가사로봇 그리고 여가생활을 포함시켰다.

교통분야를 생각해보자. 인공지능을 탑재한 자율주행차가 교통사고를 내면 누가 책임질 것인가? 미국 도로교통안전국은 2025년 수동운전 개입이 필요없는 완전한 자율주행차가 상용화될 것이라고 예상하고 있다. 자율 주행차가 무단 횡단하는 노숙자를 갑자기 발견했을 때 혹시나 승객들이 다칠거나 죽을 수 있는 상황에서 급정거를 해야 하는지 아니면 그냥 노숙자를 치고 가야 하는지와 같은 문제는 결코 단순하지 않다

2018년 3월 18일 밤 10시쯤 애리조나주 템페에서 자율주행모드로 운행 중이던 우버 차량이 길을 건너던 여성 보행자를 치었다. 여성은 병원으로 옮겨졌지만 숨졌다. 당시 차량 운전석에는 비상상황 시 운전을 맡아야 할 책임자가 앉아 있었다. 그러나 경찰은 "사고 당시 차량은 자율운전 모드였다"고 말했다. 우버는 북미지역에서 진행 중인 자율주행차 시험주행 프로그램을 즉시 중단했다.

자율기계의 사고 책임에 관한 사회적 합의가 만들어지지 않은 현 상황에서 자율주행차의 사고는 제조사의 책임과 피해자와의 개별협상으로 처리되고 있다. 이제 자율성을 가진 인공지능 시스템의 윤리 문제에 대한 사회적 논의를 시작해야 할 것 같다. 지금 유럽에서는 인공지능 로봇에게 전자인간(electronic personhood)과 같은 새로운 개념의 법적 지위를 부여하는 문제에 대해 찬반 논의가 진행되고 있다. 우리는 자율적 행위자인 인간에게 도덕적 책임(responsibility)을 묻는다. 반면에 인공지능 로봇 같은 비인격적 행위자나 프로그램에게 적용하기 위해 도덕적 책무(accountability) 개념이 논의되고 있다. 책무는 비난 받을 일들이 발생했을 때 반드시 이에 대해 어떤 설명을 해야 하는 일종의 의무 같은 개념이다.

정영기(호서대 교수)

<저작권자ⓒ대전일보사. 무단전재-재배포 금지>