현대는 ‘인공지능 만능시대’이다. 사람은 굳이 생각하거나 판단하지 않아도 된다. 인공지능이 내가 좋아하는 상품이나 영상을 자동으로 권하기 때문이다. 병원에 가면 치료법까지 추천해준다. 자율주행 자동차가 현실화되는 것도 인공지능의 힘이다. 이렇게 보면 인공지능은 인류를 편하게 만들어주는 만능 해결사 역할을 하는 것 같다.
그러나 ‘안녕, 인간’의 저자 해나 프라이는 마냥 편리해 보이는 인공지능의 뒷면에 ‘알고리즘’이라는 이름으로 인간의 자유와 주체성을 위협하는 음울한 ‘디스토피아’의 세계가 함께 커져가고 있다고 경고한다.
이름과 생년월일부터 신용카드 사용내역, 종교나 정치적 성향 등 수많은 개인정보가 노출되는 것은 물론 이러한 ‘과거의 성향’이 알고리즘 추천이라는 명목으로 ‘미래의 취향’까지 통제하는 상황으로 넘어가고 있다는 것이다(2장 ‘전지전능한 데이터’).
매우 객관적일 것으로 기대되는 인공지능이지만 백인에 비해 흑인을 잠재적 범죄자로 분류하는 편향성이 보인다거나(3장 ‘알고리즘이 인간을 재판한다면’), 자율주행 자동차의 경우 충돌 사고에서 운전자를 보호할 것인지, 행인을 보호해야 할 것인지 윤리적인 선택의 문제에 부딪혀 오류를 낼 수도 있다(5장 ‘자율주행 자동차는 완벽한가’)는 것이다.
‘안녕, 인간’은 인공지능 전문가가 쓴 인공지능 비평서라는 점에서 눈길을 끈다. 저자 해나 프라이는 수학자로서 우리가 알고리즘을 어떻게 잘못 이해하고 있는지 전문가적 입장에서 설명하고 있으며 알고리즘과 인공지능이 사회를 어떻게 통제하고 어떤 미래를 만들지에 대해서 꼬집고 있다.
저자는 지나치게 많은 것을 객관화하고 자동화하려는 인간의 욕망이 오히려 인공지능에 지배당할 수 있는 시대를 만들고 있다고 분석한다. 결국 ‘경제, 데이터, 의료, 예술 전반을 뒤흔드는 인공지능 시대에 인간이 어떻게 주도권을 쥘 것인가’라는 문제의식을 가져야 한다는 주장이다.
저자는 인공지능 자체를 부정하기보다는 인공지능을 이용하는 인간의 주체성에서 해법을 찾고 있다. ‘자신의 판단보다 기계를 더 신뢰해야 할 때가 언제인지, 기계에 통제권을 맡겨버리고 싶은 유혹을 떨쳐야 할 때가 언제인지를 정확히 알아야 한다’는 것이다.
