[책 리뷰] 대량살상수학무기 (Weapons of Math Destruction) (캐시 오닐 지음)

대량살상수학무기 (Weapons of Math Destruction)

어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가

캐시 오닐 지음

---

  이 책은 인하대 후문에 자주 가는 '카페 호'에서 빌려 보았다. 도서관을 오며 가며 보아서 그런지 보자마자 이름이 눈에 익었다. 예전에 보았을 때는 책 제목에 '수학'이 들어가서 별로 손이 가지 않았지만, 데이터를 다루는 지금은 "어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가"라는 부제에 이끌려 읽게 되었다.

 

대량살상수학무기 (Weapons of Math Destruction)

 

  "대량살상수학무기"는 "Weapons of Math Destruction"를 번역한 말이다. 참고로 "Weapons of Math Destruction"은 'Weapons of Mass Destruction' (대량살상무기)의 말장난인 듯하다. (초월 번역을 하지 못한 게 아쉽다.) 줄여서 WMD라고 부르는 대량살상수학무기는 인간의 무의식까지 통제하는 빅데이터 모형(model)과 알고리즘을 뜻한다. 수학과 데이터, IT 기술의 결합으로 탄생한 빅데이터 모형은 편견에 사로잡힌 인간보다 공정하며, 개인의 권리와 이익을 보호한다고 알려져 있다. 그러나 현실은 정반대라고 작가는 주장한다. 정부, 기업, 사회에 도입된 데이터 기반의 알고리즘 모형들은 인종차별, 빈부격차, 지역차별 등 인간의 편견과 차별, 오만을 코드화해 불평등을 확대하고, 민주주의를 위협하고 있다고 한다.

 

  작가는 WMD가 우리 사회 속에 침투해 우리 삶을 어떻게 파괴하는지를 여러 사례를 통해 설명하며 'WMD를 하나씩 무장해제 시키'고, '알고리즘을 감시하자'라고 주장한다.

 

  실제로 책을 읽으며 생각해보니, 빅데이터 기반의 수학적 모형과 알고리즘은, 어떤 데이터를 수집할지부터 무엇을 도출하고자 하는지까지 개발자의 개인적인 목표와 이념(ideology)이 반영되기 마련이다. 또한, 완벽한 모형이라는 것은 없다. "오늘 만든 모형이 내일은 약발이 떨어질 수도 있다. 지속적으로 데이터가 추가되지 않으면 모형은 갈수록 퇴화한다."라는 본문 속 내용처럼 지나치게 알고리즘을 맹신해서는 안 될 듯하다.

 

  데이터를 통해 알고리즘을 설계하는 일을 하는 지금, 데이터를 다루는 올바른 관점을 알게 된 책이다.

 

  마지막으로, 2008년 금융 위기 이후 금융공학자인 아매뉴얼 더만(Emanuel Derman)과 폴 월모트(Paul Wilmott)가 만든 모형 개발자를 위한 히포크라테스 선서를 소개하며 마무리하겠다.

 

The Modelers’ Hippocratic Oath (모형 개발자를 위한 히포크라테스 선서)

I will remember that I didn’t make the world, and it doesn’t satisfy my equations.
나는 내가 세상을 만든 것이 아니며, 세상이 내 방정식을 따르지 않음을 명심하겠습니다.

Though I will use models boldly to estimate value, I will not be overly impressed by mathematics.
나는 가치를 추산하기 위해 모형을 대답하게 사용할지언정, 수학에 지나치게 감동받지는 않겠습니다.  

I will never sacrifice reality for elegance without explaining why I have done so.
나는 이유를 설명하지 않고는 우아함 때문에 현실을 결코 희생시키지 않겠습니다.

Nor will I give the people who use my model false comfort about its accuracy.
나는 내 모형을 사용하는 사람들이 그 정확성에 대해 거짓된 위안을 갖도록 하지 않겠습니다.

Instead, I will make explicit its assumptions and oversights.
대신에 나는 모형에 이용된 가정과 간과된 점들을 분명히 밝히겠습니다.

I understand that my work may have enormous effects on society and the economy, many of them beyond my comprehension.
나는 내 일이 사회와 경제에 지대한 영향을 끼칠 수 있으며, 그런 영향 중 상당 부분 나의 이해 수준을 능가하는 것임을 명심하겠습니다.