넷플릭스 다큐: The Social Dilemma (소셜 딜레마) - 우리를 조종하는 IT산업의 알고리즘

(왼쪽) 넷플릭스 다큐 소셜 딜레마 (오른쪽) 소셜 미디어에 조종당하는 인간

묵직한 다큐를 보았다. 'The Social Dilemma', SNS를 포함한 모든 소셜 미디어에 우리의 삶이 어떻게 잠식되는지 보여주는 무서운 다큐이다. 올 초에 나온 다큐이고, 익숙한 소재이기 때문에 많은 사람이 보았다. 리뷰와 평이 많은 것으로부터 짐작된다. 이미 좋은 리뷰도 많지만 그래도 보았으니 스스로 정리해 보고 싶어 포스팅을 열었다. 

 

이 다큐는 그간 여러 매체에서 수없이 다루었던 소셜 미디어의 부작용과 그로인해 발생되는 여러 사회적 현상 뒤에 숨은 원인에 대해 파헤치는 내용을 담고 있다. 

 

이 다큐는 실리콘 벨리의 여러 거대 IT기업에서 일하는 혹은 일했던 사람들의 증언으로 부터 시작한다. 그중, 전체 이야기를 끌고 가는 사람은 트리스탄 해리스 (Tristan Harris)라는 전직 구글의 gmail 파트에 있던 software engineer와 IT 디자인 윤리학자로 일했었다. 

 

자신들 사업의 부작용에 대해 말하는 것도 구글이 선도하는구나, 역시 구글이네 라고 생각할 수도 있겠지만, 트리스탄이 고백하길 자신이 gmail부서에서 일할 때, 끊임없이 울리는 메시지 알림이 너무 싫었다고 한다. 일을 넘어 나를 점점 잠식하고 있다는 생각이 들었고, 포지션 전환을 생각했다고 한다. 

 

또 한명의 잘 알려진 사람이 등장하는데 바로 'SNS를 삭제해야 할 10가지 이유'의 저자인 제론 레니어 (Jaron Lanier)이다.

 

다큐가 이들을 주목하는 이유는 바로 그들의 직업명 때문일 것이다. 트리스탄은 현재 Center for Humane Technology라는 단체의 대표로 있다. 제론은 컴퓨터 공학을 전공했으며 지금은 컴퓨터 공학 철학자란 직업으로 활동하고 있다. 

 

IT에 있어 윤리학과 철학이라고 붙으니 익숙하지 않다. 폭넓은 의미에서 윤리학과 철학은 인간의 가치와 존엄성을 주제로 한 학문이라고 생각하면, 이들은 인간의 존엄성을 훼손하지 않는 IT 산업의 설계를 연구하는 사람이라고 할 수 있을 것 같다. 이 정의가 얼마나 정확한지는 확실하진 않지만 다큐를 보면 이런 식으로 정의를 해도 큰 무리가 없을 것으로 생각이 들 것이다. 

 

(왼쪽) 트리스탄 해리스 (오른쪽) 제론 레니어

"충분히 발달한 기술은 마술과 같다"

다큐에서 많은 인용을 사용했지만 그중 가장 기억에 남는 인용이다. 이것이 소셜 미디어의 본질을 가장 잘 설명하는 것 같아서이다. 

 

마술은 인간의 심리를 이용한다. 특히, 인간이 간과하기 쉬운 취약한 심리를 타겟으로 한다. 

 

중독은 인간의 가장 취약한 심리중의 하나이다. 

 

고객(customer)을 사용자(user)라고 부르는 사업이 딱 두 개 있다. 바로 불법 마약과 소프트웨어 산업. 이 둘의 공통점은 사람들을 얼마나 자신들의 상품에 잡아둘 것인가를 고민한다는 것이다. 사용자를 자신들의 플랫폼에 가두면 가둘수록 이익을 많이 내는 매커니즘을 가졌기 때문이다. 

 

또한, 소셜 미디어는 인간성을 대표하는 다른 심리- 분극화, 급진화, 분노, 허영-들을 공격한다. 이 심리는 부정적이고 인간의 가장 약한 감정들이다. 스마트폰에는 이런 감정을 자극하려 중독에 이르게 하는 기술이 많이 있다.

 

예를 들면, 스마트폰에서 스크롤 다운을 하면 가장 위에 최신 소식이 뜨는 디자인: 이것은 심리학에서 '간헐적 정적 강화(intermittent positive reinforcement)'라는 현상으로 우리의 눈과 손을 핸드폰에 묶어 두는 기술이다. 아래로 당길때 어떤 소식이 뜰 지 모른다. 하지만 우리가 검색하고 클릭했던 데이터로 만든 각자의 모델이 좋아할 만한 것을 보여준다. 

 

'포토 태깅'도 역시 우리가 핸드폰으로부터 잠시도 눈을 돌릴 수 없게 만드는 교묘한 설계이다. 이와 비슷한 '좋아요(like)'도 애초에는 긍정과 사랑이 넘치는 사회를 꿈꾸며 설계했다고 엔지니어는 말하지만, 실상 인간의 허영과 소외감만을 부축일 뿐이다. 

 

이렇게 플랫폼은 뇌에 깊숙히 침투하여 인간을 조종한다. 자신들의 플랫폼 안에 잡아 놓고 광고를 노출하여 수익을 내는 것이다. 누구나 알고 있는 돈을 버는 방법이다.

 

이런 방식의 사업, 즉 사용자를 중독시켜 그들에게 영향력을 끼치는 방법은 기존의 신문, 인쇄, TV와 같은 미디어 매체와 다르다고 한다. 소셜 미디어는 알고리즘을 바탕으로 작동한다. 여기에서 알고리즘은 사용자의 개별적인 특성이나 취향을 파악해 맞춤으로써 진화하도록 설계되었다. 

 

전문가들은 소셜 미디어가 사용자에게 파는 것은 미래에 대한 확실성이라고 한다. 내가 좋아하는 것 내가 필요로 하는 것이 바로 내가 보는 스마트폰 화면에 나타나는 것에 대한 수요이다. 즉 예측을 하는 것이다. 그러기 위해서는 많은 양의 데이터가 필요하다. 이 데이터는 우리가 무엇을 하고 누구인지를 말해준다. 이것들이 모두 알고리즘이 괴물로 변하게 만드는 재료로 쓰인다. 예측을 더욱 정교하게 하여 사용자를 플랫폼의 노예로 만든다. 

 

한국도 미국의 IT공룡들의 데이터 베이스에 많은 기여를 하는 나라 중 하나이다. 얼마 전 이재명 지사의 구글에게서 데이터료를 받아야 한다고 주장한 것도 앞으로는 데이터가 바로 국력의 원천이라는 것을 꿰뚫어 보았기 때문일 것이다. 

 

개인을 넘어선 SNS의 사회적 부작용

소셜 미디어의 악영향은 개인넘어 사회로 까지 전파된다. 유튜브의 추천 알고리즘을 개발한 개발자는 개인의 편의를 위해 개발한 알고리즘이 사회의 분극화를 조장하는 도구로 퇴색되었다고 회의감을 드러냈다.

 

사람들은 자기가 보고 싶은 것 믿고 싶은 것만 보고 그것이 진실이라 믿게 되었다. 가짜 뉴스의 생산과 확산이 전과 비교도 할 수 없을 만큼 빨라지고 이를 대하는 사람들 사이의 이념 차이가 더 커졌다. 

 

각종 사회적 세계적 이슈에 음모론이 스며들어 문제의 본질을 흐려 악영향을 준다. 특히, 온난화 문제, 세계의 민주화, 세계경제와 같은 많은 사람들의 삶에 영향을 주는 문제에 대한 분극화는 심각한 문제를 초래한다. 

 

최근 한국의 정치도 분극화가 유례없이 심해졌다. 그 단적인 예가 지난 광복절 광기의 광화문 집회로 드러났다. 이는 가짜 뉴스와 이념적 대립이 낳은 근래에 일어난 최악의 사건으로 볼 수 있다. 펜데믹과 맞물려 사회는 더욱 불안해지고 그 혼란을 정리하는데 큰 비용이 들었다.

 

진실을 가리는 정보의 범람 속에서 우리는 어떤 것이 진실인지 구분할 수 없게 되며, 진실이 있다고 해도 거기에 동의하지 않는다. 더욱 큰 문제는 심지어 진실이 있다는 것에 동의하지 않는 사회의 모습이다. 

 

마치며

다큐는 이해하기 쉽다. 설명과 표현도 분명하고 메시지를 전달하는 속도로 빠르지 않아 생각하면서 볼 수 있는 좋은 영상이다. 가장 좋았던 부분은 무거운 내용보다 음악이었다. 소셜 미디어에 서서히 중독되고 삶이 잠식되어가는 느낌을 아주 잘 살렸다. 

 

다큐는 여러 전문가들의 '대책(remedy)'을 제시하면서 마무리된다. 모두가 산업 자체의 자정작용이 필요하다고 입을 모은다. 이미 충분히 성장한 거인을 통제하는 방법은 스스로를 통제하는 것이 유일하기 때문이다. 또한, 관련법 제정에도 힘써야 한다고 한다. 예를 들면 미디어 프라이버시에 관련된 법률로 개인적 활동에 의해 생겨난 데이터 남용을 통제할 수 있다고 한다. 

 

개인적 차원에서의 '대책'으로

 

• 제롬은 모든 SNS를 다 지우라고 한다. 다소 극단적인 조치이긴 하지만 술이나 담배를 끊을 때도 단번에 끊어야 한다. 어제 10개비 오늘은 8개비 이런 건 말이 안 된다. 

• 트리스탄은 우선 '모든 알림 설정을 끄세요'라고 말한다. 

• 유튜브 추천 알고리즘 개발자는 추천 목록을 제거하는 크롬 확장자가 있으니 사용하라고 한다. 

• 팩트 체크를 하라 (지나치게 감정에 호소하는 내용은 거짓일 확률이 높다) 

• 잠들기 30분 전 모든 전자기기를 끊어라 

 

이 중 '알람끄기'와 '잠들기 30분 전 모든 전자기기 끄기' 정도는 어렵지 않게 할 수 있어 보인다.