컴퓨터가 사람을 이겼다고?

지금까지 기계는 인간의 부족한 신체능력을 대체하는데 더 큰 의미가 있었다. 그러나 인공지능의 등장은 인간의 전유물로 여겨왔던 ‘생각하는 능력’을 컴퓨터가 대신할 수 있다는 가능성을 보여주었다.

새롭게 도래하는 AI의 시대를 준비하자는 목소리가 책으로 출간되었다. <AI는 양심이 없다>의 저자 김명주 교수(서울여자대학교 정보보호학과·사진)를 만났다. 알파고와 이세돌의 대국이 열린 해에 정부가 주도했던 ‘AI 윤리팀’의 위원장을 맡았던 그는, AI시대는 ‘기술’만이 아니라 ‘윤리적 준비’를 해야 한다고 주장한다.

“일반인들은 AI가 어떤 방식으로 작동하는지 알지 못합니다. 이용자들은 결과물만 소비하게 되지요. 결국 AI를 만든 사람이 제공해 주는 것을 일방적으로 받아야만 하는 상황입니다. 그래서 AI에 대해서, 요즘의 트렌드에 대해서 많은 사례들을 소개하고, 그것들이 초래할 문제를 예상할 수 있게 함으로써, AI시대를 대비하자는 차원에서 썼습니다.”

컴퓨터가 인간을 이기는 시대. 김 교수는 이 시대를 어떤 관점으로 보고 있으며, 어떻게 대비해야 한다고 이야기할까?

포스트 휴머니즘

“2018년도에 AI를 전자인간으로 명명하는 법이 발의되었습니다. 결국 기각되었지만, 앞으로 이런 시도는 계속 될 것입니다. 과거에는 사회 통념상 받아들일 수 없었던 법안들이 시간이 지나면서 ‘합법’이 되는 사례가 이미 있습니다.”

김 교수는 AI가 인간과 수평적으로 공존하는 시대를 ‘포스트 휴머니즘 시대’라고 설명한다. 과거에는 수직적 관계, 그러니까 인간이 기계보다 법적ㆍ윤리적 우위에 있었지만, 포스트 휴머니즘 시대에는 수평적 관계가 될 수 있다는 것이다. 그래서 김 교수는 이런 보기를 제시하며 질문한다.

“예를 들어 AI가 인간처럼 사유하고, 분노ㆍ기쁨ㆍ사랑ㆍ좌절 등의 감정을 느끼고, 스스로 이 모든 것들을 학습한다면 인간과 사람은 어떤 점에서 다르다고 할 수 있을까요? 또한 인간의 신체적 한계를 기계를 통해 극복하고, AI 로봇도 점점 생체를 이식 받아서 인간화 된다면 어떻게 인간과 AI로봇을 구분할 수 있을까요?”

김 교수는 이미 AI시대를 준비하는 윤리위원들이 이 부분에서 의견이 대립하고 있다고 이야기한다.

책에서도 사람이 모는 자동차와 AI 작동하는 자동차가 사고 났을 때, ‘법’은 이미 ‘사람’이 아니라 ‘법규’를 중심으로 판결하고 있다고 설명한다. 뿐만 아니라 유명 연예인 사후에 디지털로 다시 살려 ‘사후 고용’이 되는 경우, 배우자나 부모님을 디지털 세계 속에서 다시 만나는 예를 들며 이미 AI는 인간의 삶과 죽음, 문화, 경제 등 거의 모든 분야에 영향을 주고 있다는 것.

윤리적 숙고, 예방접종

책의 마지막에는 “‘인공지능이 인류의 마지막 기술일 수 있다’는 경고”가 소개된다. 인간의 죽음ㆍ존재ㆍ신뢰를 흔드는 AI시대는 이미 진행 중이며, 불가항력적으로 우리에게 다가오고 있다고 말한다. 그러나 저자는 단순히 새로운 기술과 문명을 거부하자는 의미에서 펜을 들지 않았다.

“무작정 거부해야 한다는 주장, 또는 무조건 수용해야 한다는 주장 모두가 지양되어야 합니다. 먼저는 AI가 무엇인지 공부해야 하고, 어떻게 대처해야 하는지 윤리적인 숙고를 할 필요가 있습니다.”

김 교수는 AI시대를 맞이하는 인류가 ‘윤리적 숙고’를 해야 함을 강조한다. 그는 “법은 사건ㆍ사고가 발생된 뒤에야 제정된다”며, 법만으로는 새로운 시대에 발생할 윤리적 문제들을 대비할 수 없다고 말한다. 그래서 ‘윤리’여야 한다는 것이다.

“윤리는 법정에서 다뤄지지 않습니다. ‘대화’와 ‘토론’을 통해 ‘숙고’할 수 있습니다. 그래서 종교와 교육기관, 정부와 시민단체 등 사회의 전방위에서 윤리적 대화와 토론을 할 수 있는 공론장이 필요합니다.”

그런 공론의 장이 만들어진다면, 예측되는 문제들을 예방할 수 있다는 것이다.

“우리보다 3~4년 앞서 인공지능에 대해 고민하고 있는 나라들이 있습니다. 그들의 사례를 잘 살피고, 우리들도 대화와 토론을 통해 윤리적인 숙고를 해 나가는 것, 이것은 예방접종을 하는 것과 같습니다. 앞으로 다가올 문제를 미리 생각해보는 것이니까요”

예방접종. 코로나19시대를 지나며 그 효과를 경험한 우리들이기에, AI시대를 준비하며 ‘윤리적 숙고’라는 예방접종이 필요하다는 것을 저자에게 배운다. 새 시대에 대한 불안을 떨치고 정면으로 마주해 바라보며, 우리 사회가 지혜를 모아 슬기롭게 준비할 수 있기를.