Categories
xacdo

소셜 딜레마 (2020)

이번 주 넷플릭스 미국 시청 9위로 화제를 모은 다큐멘터리 소셜 딜레마(The Social Dilemma)를 봤다. 중고등학생들아, 너희들 소셜 미디어 작작해라…는게 주 메시지였다. 거기까지는 그렇다 치는데, 그 논리를 쌓아가는 방식이 납득하기 어려웠다. 왜 그런지를 굳이 설명하자면 다음과 같다.

먼저 인터뷰에 나온 사람들이 너무 자기 회사 제품을 팔러 나온 것 같았다. 제일 비중이 높은 분이 Center for Humane Technology의 창업자인데, 회사 이름에서 알 수 있듯이, 전직 구글의 윤리 담당자로서 구글 같은 테크 회사 같은 데서 법적이나 윤리적인 문제가 있을 수 있는 부분을 컨설팅하는 회사다. 소셜 미디어의 법적 책임을 강화하는 법안을 지지하기도 한다. 지금까지 성장하고 이익을 내는데만 정신이 팔려서 그런 것들까지 챙기지 못했다면 그건 문제니까 빨리 고쳐야 한다. 그런데 그것을 자신이 그 회사에 있을때 그러지 못해서 무력감을 느끼고 나와서 그런 걸 도와주는 회사를 창업했다. 그래서 그렇게 윤리적 책임을 다하지 못하고 사용자의 경험을 조작하는 걸 “디지털 프랑켄슈타인”이라고 비유하면 너무 자기 회사의 홍보로 보이지 않을까.

그 외에 나온 분들도 페이스북 등의 실리콘밸리 테크 기업들의 초창기 멤버들로 지금은 은퇴했거나, 위의 분처럼 다른 회사를 창업했거나 아니면 이직하신 분들이다. 그나마 비슷한 테크 기업으로 이직했다면 이렇게 비판적인 얘기를 안 하시겠지만, 상관이 없는 쪽으로 가셨으니까 그런 비판을 할 수 있다고 생각한다. 그런데 그게 사실은 자기가 개발한 기능, 예를 들어 좋아요 버튼을 처음 만든 분이 자기가 만든 기술이 사람들을 얼마나 소셜 미디어에 중독되게 만들었는지, 그래서 그 부작용이 얼마나 심각한지 얘기하니까 그게 비판이 아니라 자랑으로 들렸다. 겸손한 자랑(humblebrag) 으로 들렸다. 전직 핀터레스트 임원분의 말씀도, 일을 마치고 집에 가서도 가정에 충실해야 하는데 계속 핀터레스트를 들여다보느라고 집중을 할 수가 없었다, 너무 중독적이었다고 얘기했다. 애들을 보면서도, 주방에 식료품을 가지러 갈 때도 손에서 휴대폰을 놓을 수가 없었다고 했다. 아니 이게 비판이야 자랑이야.

소셜 미디어가 중독적인 건 사실이고, 사실 그렇게 만드는게 잘 만든 거라고 할 수 있다. 소셜 미디어를 뭐하러 하는가? 재미있으니까 하는 거다. 소셜 미디어의 잘못이라면 너무 재미있다는 점 정도일 것이다. 이런 문제는 굳이 소셜 미디어가 아니라 게임도 마찬가지고, 옛날에 TV가 바보상자라는 얘기도 마찬가지였고, 만화책도 그랬고… 일상 생활을 망가트릴 정도로 너무 재미있는 것들은 항상 그래왔다. 굳이 도박이나 마약이 아니더라도, 그보다 낮은 단계의 유혹들은, 정도의 차이가 있을 뿐이지, 많다. 그래서 중독의 정의를 일상 생활을 망칠 정도로 몰입하는 것이라고 한다면, 소셜 미디어도 게임도 중독이 맞다. 그러므로 그런 증세는 치료가 필요하다.

다만 나는 소셜 미디어나 게임 같은 유혹들이 그렇게 대단한 건 아니라고 생각한다. 세상에 재미있는 것들은 그렇게 중독될 위험이 있을 것이다. 어느 정도는 금욕적이어야 한다. 스마트폰도 게임도 소셜 미디어도 적당히 해서 일상 생활이 가능해야 한다. 나도 트위터 중독이라 작작 해야 한다. 나에게 하는 얘기다.

그리고 이 소셜 미디어를 몰입하게 만드는 여러 장치들, 예를 들어 타임라인에 사용자가 재미있어할만한 것들을 먼저 띄운다던가, 사용자가 유혹될만한 광고를 먼저 노출하고 경매를 붙인다거나 하는건 너무 당연한 것인데 그걸 부정적으로 묘사했다. 구체적으로 얘기하면 영화 “인사이드 아웃”처럼 운영 관리자들이 상황실에서 사용자의 행위를 실시간으로 보면서, 계기판을 조작해서 사용자의 행위를 조작한다. 왜 영화에 나오는 회사원들은 항상 어두운 조명에서 일할까? 그래도 이번에는 지난번의 007 – Spector (2015)처럼 등받이 없는 의자에 앉는 대신에 서서 일해서 조금 나았다. 스탠딩 데스크라 허리는 덜 아플 것 같았다.

대부분의 영화에서 소프트웨어 개발 부분을 적당히 빠르게 치고 넘어가는데, 이 영화에서도 그런 부분을 드라마화(dramatization)하는 거라 이해는 가지만… 나도 개발자로서 운영하시는 관리자 분들이 저렇게 편리한 화면으로 즉각 반영이 되는 시스템을 개발해야 할텐데, 반성하는 기회로 삼기로 했다. 사람이 저렇게 쉽게 영향을 받으면 얼마나 좋을까. 무엇보다 빨간 스위치를 누르니까 바로 경매가 시작되고 그와 동시에 낙찰되는 것을 보고… 이렇게 수익화가 빠르다니 이 회사는 뭘 해도 되겠다는 생각이 들었다. 게다가 사용자 한 명에 운영자 3명씩 붙다니, 요즘같은 시대에 고용 창출에 큰 기여를 하겠다는 생각이 들었다.

A/B 테스트를 하는 것도 실 사용자들을 실험실의 생쥐처럼 실험하는 거라고 했는데, 그게 딱히 틀린 말은 아니지만 그렇다고 고작 소프트웨어인데, A 집단에게는 약물을 투여하고 B 집단에게는 위약을 투여하는 실험도 아니고, 그냥 화면 기능을 좀 다르게 보여주고 테스트하는 건데 너무 과장한게 아닌가 싶기도 했다. 타임라인 상위에 스포츠 경기를 띄워준다고 메스꺼움, 구토, 몸살 등의 부작용이 나타나는 것도 아니고 말이다.

다만 페이스북 등의 소셜 미디어가 정치적으로 편향되었다는 지적에는 동의했다. 넷플릭스의 다른 다큐멘터리 “거대한 해킹(The Great Hack, 2019”에서도 지적했지만, 페이스북이 다른 소셜 미디어에 비해 검열 수위가 낮은 편이라서 여론 조작에 취약해서 정치적으로 극우 쪽에 편향되어있다. 굳이 페이스북만이 아니라 트위터, 한국의 네이버 뉴스, 그리고 일베 등 많은 커뮤니티들이 검열을 어떻게 하느냐에 따라 정치적 성향이 편향된다. 검열은 정치적이다. 게다가 요즘 테크 기업들이 인건비를 아끼려고 사람을 덜 쓰다보니 더욱 이런 검열의 문제가 심각하다. 물론 사람을 많이 쓴다고 문제가 다 해결되는 건 아니지만, 시스템 규칙으로 자동 검열하는 것도 잘 짜야지, 안 그러면 수많은 남용(abusing)이 생긴다. 보안 취약점과 마찬가지로 정치적 취약점이 생기는 것이다.

다만 몇십년 전 군사 정권들이 미디어를 검열해서, 검열을 당하는 미디어들이 친독재적이고, 검열을 거부하는 미디어들이 인권적이었다면, 요즘 테크 미디어들은 검열을 많이 하는 쪽이 오히려 진보적이고, 검열을 덜 하는 쪽이 극우적이다. 예를 들어 트위터는 특정 키워드를 포함해도 계정이 잠기는데 이 특정 키워드가 너무 광범위해서 한 때는 억울한 사람들도 많이 나왔다. 이렇게 악성 계정들의 기준이 너무 엄격하게 적용하다보니 억울하게 잠겨서 트위터를 떠나는 사람도 많이 생기지만, 그만큼 여론몰이해서 여론을 조작하려는 계정들도 트위터에 쉽게 발을 붙이지 못한다. 그래서 비교적 진보적인 편이다. 반면에 페이스북은 계정을 닫는 기준이 훨씬 낮아서 극우적인 계정들이 비교적 자유롭게 활동하는 편이고, 여기에 사용자들의 신고로 문제가 되는 계정을 닫는 경우도 많아서, 일종의 이지메처럼 사람들이 몰려들어서 신고를 해버리면 억울하게 닫히는 경우도 있다. 그런데 이런 억울한 경우에도 구제책이 없이 무관용(zero-tolerance) 정책을 하다보니 페이스북이 상대적으로 여론 조작에 취약하고 극우적인 색채를 띄게 되는게 아닐까 싶다. 이런 부분들은 테크 기업들의 책임이기 때문에, 좀 더 검열 정책을 정교하게 다듬어서 이런 정치적 취약점을 보완해야 할 것이다.

여기에 나의 생각을 조금 덧붙이자면, 문제가 되는 사용자를 제한하는 것도 지금보다 훨씬 세분화되어야 한다. 그냥 계정을 닫아버리고, 게시물을 비공개 처리하고 마는 것이 아니라, 이것이 무슨 문제로 닫았는지 정확히 이유를 알려주고, 정당히 항의하는 프로세스를 만들고, 항의하는 동안 임시로 열어주되 이 게시물에 대해 운영자가 왜 제한을 취했는지 이유를 먼저 보여주고, 이에 대해 이 게시물의 주인이 어떤 문제 제기를 했는지 보여주고, 그래서 현재 진행상황이 어떻게 되었는지를 보여준 다음에 본문을 보여주는 식으로 하는 것도 좋을 것이다. 단순한 허용/차단 이분법은 너무 뭉툭하다. 이보다 훨씬 세분화된 프로세스를 도입해야 한다. 그러는데 지금 쇼핑몰의 구매 프로세스나 법적인 고소/고발 프로세스들을 참고하는 것도 도움이 될 것이다. 이렇게 생각해보니 이걸 개발하고, 최소한의 운영 인력으로 효율적으로 운영하도록 여러 부분들을 자동화하려면 꽤 큰 일이 되겠다.

발언의 자유를 보장하는 것도 중요한데, 그 자유에 책임이 따르게 하는 것도 마찬가지로 중요하다. 사용자가 하고 싶은 말을 마음대로 하는 것도 중요하지만, 그 말에 회사가 어떻게 생각하는지도 중요하고, 그에 대해 다른 사람들이 어떻게 생각하는지, 그리고 본인의 해명과 반박은 어떤지, 그에 대한 후속 조치들이 어떻게 되어가는지 그 모든 과정이 모두 중요하다. 발언의 자유는 시작일 뿐이지 끝이 아니다. 그리고 이 모든 과정에서 시스템에 익숙하지 않거나 위협을 느껴서 중간에 좌절하지 않도록 세심하게 배려해서, 테크 약자들이 소외되지 않도록, 그래서 그들이 이 시스템에서 자유롭게 발언하는데 익숙해지도록, 성장을 도와주는 것도 필요하다. 이것을 나는 상당부분 사용자 경험의 신중한 설계로 가능하다고 본다. 그러는데 유튜브의 저작권 클레임 프로세스를 참고하는 것도 좋을 것이다.

아 그리고 또 하나 말하자면, 이런 극우적인 메시지에 선동되어 주인공이 시위를 나와서 시위를 하다가 체포되는데, 그러면서 Black Lives Matter 시위의 방화, 약탈 장면이나 홍콩의 우산 시위가 인서트로 들어가는 걸 보고 경악했다. 마치 모든 시위가 폭력적인 것처럼 보여주는 것 같았고, 시위를 나오면 결국 경찰에 체포되어 부모님이 걱정하는 상황이 되는 것처럼 보였다. 이것이 모두 그놈의 소셜 미디어 때문이고, 하여튼 이걸 압수해서 금고에다 넣어놔야지 이 놈의 버르장머리가 고쳐질 것 같이 묘사했다. 나는 이 점이 우려스러웠다.

나는 시위 자체에는 잘못이 없다고 생각하고, 시위하다가 억울하게 체포되는 경우도, 경찰이 그러면 안되지만 경찰도 사람인지라 어쩔 수 없이 있을수도 있다고 생각한다. 다만 한국의 촛불시위처럼 가능하면 평화적으로 시위했으면 좋겠고, 그 정도까지는 아니더라도 방화나 약탈은 하면 안되고, 그건 시위와 아무런 상관도 없다고 생각한다. 여기 지금 내가 사는 LA의 시장 에릭 가르세티도 Black Lives Matter가 범죄적으로 변질되자, 진보적인 성향임에도 불구하고 아주 강한 어조로 그러면 안된다고 했다. 문재인도 그렇듯이 많은 진보 정치인들은, 공권력은 최소화되어야 하지만, 안타깝게도 공권력이 필요한 때가 있다고 생각한다. 시위를 완전히 막는 것은 아니지만 시간과 장소를 제한하고, 오후 6시가 지나면 LA 전역이 통행금지가 되어 그냥 길에 걸어다니기만 해도 경찰이 잡아갔다. 상황이 이정도까지 되면 설령 내가 평화적인 의도로 시위에 나왔다 하더라도, 도로가 통제되고 그래서 가까운 지하철역이나 아니면 내가 주차해놓은 곳까지 뱅뱅 돌아가다보면, 그만 가는 길에 억울하게 체포당할수도 있다. 나는 내가 부모라면, 그래서 하룻밤 구치소에서 자다가 나와도 이해할 수 있다. 다만 그렇다고 멀쩡한 스타벅스 유리창을 깨거나 웬디즈 햄버거에 불을 지르는 건 용납할 수 없다. 그건 흑인 인권과 아무런 상관이 없다. 그런건 극우던 아니던 하면 안된다. 그런데 또 한편으로는, 말이 길어지지만, 그런 폭력을 반대하더라도 그런 것 때문에 시위 전체를 폄하해서는 안된다. 그것은 또 도덕주의에 빠지는 것이다. 모두가 완전무결하게 평화적으로 시위를 하면 좋겠지만, 사람이라는게 그렇게 단순하지 않아서 이것 저것이 섞여있을 수 있다. 합법과 불법 사이에는 무지개처럼 다양한 색의 스펙트럼이 있다. 그 중간 어디에 걸치는 경우 우리는 어느 점을 강조해야 하는가? 정답은 합법과 불법의 이분법이 아니라 각각의 행위 별로 분리해서 옹호하고 비판해야 한다. 물론 아무리 분리해도 정확히 딱 떨어지게 옹호하고 비판할 수 없는 점이 생길 수 있으니, 그런 점은 그럼 모호한 점까지 모호한채로 안고 가야 한다. 어렵지만 이러는 수 밖에 없다. 홍콩의 우산 시위대가 화염병을 던지고 경찰을 때린다고 해서, 이제는 시위가 폭력적으로 변질되었으니 더 이상 옹호할 수 없다고 말하고 말 것인가? 경찰 행정부가 과잉 진압하는 경우는 없는가? 그런데 또 경찰이 억울하게 맞을 경우도 있지 않는가? 근데 또 옆에서 자기 동료가 맞는 걸 보다보니 화가 나서 시위대를 지나치게 때리는 경우도 생기지 않을까? 그럼 도대체 잘잘못을 어디까지 따져야 하나? 그러면 그 모든 부분을 빠짐없이 다 얘기해야 편향되지 않을 것이다. 이것은 중립과는 다른 얘기다. 편향되지 않으려면 이렇게 처음부터 끝까지 모든 것을 고려하는 어려운 일을 해야 한다. 딱 잘라 얘기하면 안된다. 이렇게 어려우니 편향되기가 쉽나보다. 요즘 2020 트럼프 대선 광고들을 보면 민주당 정치인들이 Black Lives Matter 시위를 옹호한 한마디를 잘라서 약탈, 방화 장면에 오버랩해서 붙여서 보여주는데, 이게 정말 악랄하지만 그렇다고 그 정치인이 그 말을 안한 것도 아니라서 문제다. 그러므로 말을 할 때 저렇게 어느 한 문장만 인용하더라도 악의적으로 왜곡할 여지를 주지 않도록 한 문장 한 문장을 조심해서 말해야 한다.

하여튼, 나는 이 다큐멘터리가 하이틴, 로우틴들에게 소셜 미디어 좀 적당히 하라는 메시지를 제외하면, 특히 나같이 테크 회사에 다니는 사람이 보기엔 이상한 부분이 많았다. 작은 디테일들은 물론, 큰 틀에서도 동의하기 어려운 점들이 많았다. 문제는 이것들이 굳이 따지자면 아주 틀린 얘기는 아니라는 것이다. 그래서 반박하기가 어렵다. 반박하려면 하나 하나 집어서 반박해야해서 말이 길어진다. 그래서 나의 결론은 이 영화를 추천하지 않고, 부분적으로 맞기도 하고 부분적으로 틀리기도 하고, 부분적으로 동의하는 부분도 있지만 부분적으로 동의하지 않는 부분도 있다.

By xacdo

Kyungwoo Hyun

4 replies on “소셜 딜레마 (2020)”

‘소셜 미디어를 너무 중독적으로 만들었다’ 가 자랑이 되려면 소셜 미디어를 중독적으로 만드는 것에 가치를 두어야 하는데, 이건 능력주의적 시각에서는 자랑이지만 인본주의적인 시각에서는 자랑이 아니죠. 자랑으로 느껴진다면 저 사람은 능력주의적 사람이라는 가정이 있거나 작도님께서 능력주의에 가치를 두고 있다는 이야기가 됩니다. 사실 두 가치관의 차이가 이 다큐멘터리의 주제이기도 하죠.

그리고 사용자를 몰입하게 하는 여러 가지 장치들을 이야기하면서 이 다큐멘터리가 제시한 문제는 맞춤형 광고나 AB테스팅같은 개별적 것이 아니고, 그 장치들을 사용/발명/개선하는 것이 머신러닝이라는 것입니다. 여기서 목적 함수는 최대 수익이고, 학습되는 머신은 인간이죠. 어느 장사가 그렇지 않겠냐만은, 가 문제삼는 건 인간이 더 많은 수익을 위해 변화하도록 학습되는 구조, 혹은 모델인 것 같습니다.

좋은 지적입니다. 저는 AB 테스팅 자체를 나쁘게 본다고 생각했는데, 말씀하신 것처럼 그 자체만이 아니라 그런 모델을 생각해야겠네요.

Leave a Reply

Your email address will not be published.