알고리즘은 알고 있다, 당신의 다음 행동을…

만물의 공식/루크 도멜 지음/노승영 옮김/반니 펴냄

첨단 기술이 발전하면서 사람의 모든 행위를 공식에 대입해 풀거나 통제하는 세상이 되어가고 있다. 어떤 개인의 과거 쇼핑 행태와 취미를 파악하면 다음에 그가 어떤 상품을 구매할 것인지 예측할 수 있다. 어떤 개인이 만나는 사람, 취향, 말투, 동선 등을 조사하면 그가 다음에 어떤 행동을 취할지 알 수 있다. 영화 '마이너리티 리포트'에서처럼 누군가가 범죄를 저지를 것인지 미리 알 수 있고, 이를 바탕으로 범죄를 사전에 예방할 수 있다. 더 나아가 사랑도 공식대로 할 수 있다. 자칫 잘못된 사랑에 빠지면 큰 상처를 입을 뿐만 아니라 위험해질 수도 있다. 따라서 예측 가능한 사랑을 제공함으로써 남녀는 나락이나 위험에 빠지지 않고 사랑할 수 있다.

사람의 행동양식을 특정한 공식으로 도출할 수 있으며, 도출된 공식에 따라 모든 것을 예측할 수 있다는 인식이 확산되고 있음을 우려하는 책이 출간됐다

책은 다음과 같은 예를 보여준다.

아마존과 같은 기업은 고객의 성향과 과거 구매 이력 등을 통해 어떤 소비 성향을 지니고 있는지 분석하고 이에 맞춰 이른바 '맞춤형 광고'를 보여준다. 안면 인식 기술을 통해 SNS상의 개인 정보나 포스팅을 분석하고 맞춤형 광고를 보여주려는 기업도 있다. 직원을 채용할 때도 트위터나 페이스북의 과거 포스팅 이력을 분석하는 실리콘밸리 기업이 늘고 있다.

지은이의 주장처럼 알고리즘이 인간사에 상당한 영향을 미치고 있다는 점을 인정하더라도 지은이의 우려는 과장된 듯하다. 맞춤형 광고가 효과적이기는 하지만 소비자는 물건을 구매한 뒤에라도 마음에 들지 않으면 반품한다. 정교한 매칭 프로그램을 통해 만난 연애상대라고 할지라도 직접 만나보니 '느낌'이 없다고 여겨지면 다시 만나지 않는다. 컴퓨터를 통해 다양한 정보를 분류하지만 결국 재판에서 유무죄와 형량을 결정하는 것은 '컴퓨터의 정보'가 아니라 '사람의 판단'이다.

결국 통계와 분류는 사람을 편리하게 할 뿐, 사람이 거기에 종속될 가능성은 없다고 보는 게 옳지 않을까.

지은이 역시 이런 점을 인정한다.

'불행인지 다행인지는 모르겠지만, 아직 알고리즘은 완벽하지 않다. 더구나 지능을 필요로 하는 일, 즉 의학적 진단이나 처방, 법률적인 조언은 인공지능이 뛰어난 부분이 있다. 그런데 오히려 교육 여부와 상관없이 인간이라면 누구나 할 수 있는, 혹은 동물이라도 할 수 있는 일들, 이를테면 명암을 구별하든가, 혼잡한 지형을 통과하든가, 컵을 컵으로 인식하는 것은 아직도 인공지능에는 부족한 부분이다. 따라서 주식 분석가나 공학자, 가석방 심사위원은 알고리즘으로 대체될 수 있을지 몰라도 정원사나 요리사, 안내원 등은 대체될 수 없는 직업이 될 것이다.'

그럼에도 지은이는 어째서 이처럼 수량화나 알고리즘이 인력 혹은 인간성, 인간적 판단을 대신하는 상황을 우려하는 것일까? 지은이는 이렇게 말한다.

'알고리즘은 좋지도, 나쁘지도, 중립적이지도 않다. 그러나 알고리즘을 설계한 이의 편견과 성향은 반드시 알고리즘에 반영된다. 그러므로 알고리즘이 적용되는 방식은 객관적일 수 없다. 그럼에도 알고리즘이 미치는 영향력은 무척 광대하다. 게다가 알고리즘은 너무 복잡해서 이것을 만들어낸 엔지니어조차 이해하지 못할 때가 있다. 이해하지 못하는 알고리즘에 의해 움직이는 세상에서 윤리적, 성찰적으로 행동하는 것은 쉽지 않다.'

책은 알고리즘이 최종적인 가치판단을 내리지는 않는다고 하더라도, 최종심에 이르기도 전에, 선입견을 남기는 나쁜 '예심'으로 작용할 수 있음을 경고하고 있다. 더불어 통계와 분류가 사람의 영역에서 차지하는 비중을 너무 넓히는 우를 범해서는 안 된다고 경고한다.

334쪽, 1만7천원.

조두진 기자 earful@msnet.co.kr