블랙박스 사회 1차 스터디

1장 -달크

The Black Box Society

  • Introduction—The Need To Know
  •  우리는 모두 가로등 밑을 뒤지는 남자 이야기를 알고 있다. 한 남자가 어두운 밤에 가로등 밑에서 뭔가를 찾고 있다. 경찰관이 와서 뭘 하고 있느냐고 물으니 그 남자는 열쇠를 찾고 있다고 한다. 이곳에서 열쇠를 잃어버린 겁니까? 경찰이 물었다. 아뇨, 남자가 대답했다. 하지만 이 곳이 밝으니까요. 이 헛된 노력에 대한 이야기는 우리시대에 더욱 수수께끼처럼 복잡해지는 기술에 대한 메타포로 쓰이면서 완전히 새로운 의미를 갖게 되었다. 사회과학자들 사이에서는 권력이 어떻게 동작하는지—누가 무엇을, 언제, 어떻게, 왜 얻게 되는지—에 대해 명확히 밝히고자 노력하는 고귀한 전통이 있다. 우리의 일상은 성취 사회승자독식 사회좋은 사회품격 사회와 같은 책들에 의해 탐색되어 왔다. 이러한 작업들은 또한 이러한 탐사가 왜 중요한지에 대해서도 우리에게 알려준다.

     그러나 이러한 노력은 사회에 대한 정보에 접근할 수 있을 때에만 효용성이 있다. 우리는 우리에게 아예 아무것도 알려져 있지 않은 주제에 대해서는 이해할 수 없고, 탐사 자체를 할 수가 없다. 아마추어 인식론자들은 이러한 문제에 대해 여러가지 이름을 붙였다. 모르는 문제unknown unknowns블랙 스완깊은 비밀deep secrets는 우리가 가지고 있는 이런 사회적 공백을 설명하는 말로 인기있는 것들이다. 새롭게 성장하고 있는 연구영역도 있다. 무책임, 건망증, 근시안, 소멸, 비밀과 은폐를 낳는 무지에 대한 구조적인 생산과 그 다양한 원인, 형태를 연구하는 불가지학Agnotology라는 학문이다.

     지식의 격차는 추상적이든 실제적이든 그러한 현상을 만들어낸 이들의 쓰임새에 따라 강력한 영향력을 가진다. 한때 세상에서 가장 힘있는 중앙은행장이었던 앨런 그린스펀은 오늘 날의 시장은 애덤 스미스의 보이지 않는 손의 변환불가능할 정도로 불투명한unredeemably opaque 버전에 의해 돌아가고 있으며, (규제 당국을 포함해) 그 누구도 현대 금융 시스템의 가장 단순한 내부 동작을 엿보는 정도 이상으로는 파악할 수 없다고 주장했다. 이것이 맞는 말이라면, 오로지 자유주의 정책만이 합리적인 반응이 된다. 유명한 자유방임주의 사상가 프리드리히 폰 하이에크는 지식 문제knowledge problem를 경제에서 선한 정부의 개입이 극복하기 어려운 장애물이라고 불렀다.

     하지만 지식 문제가 단순히 시장의 내재적인 요소인 게 아니라 특정한 사업에 의해 섬세하게 조장되는 것에 가깝다면 어떨까? 금융업자들이 특히 규제를 피하거나 좌절시키기 위한 목적으로 불투명한 동작을 유지하고 있는 것이라면? 그건 탈규제의 이점과는 아주 다른 결과를 가져온다.

     지식 문제의 문제는 일반적인 진실에 대한 하나의 예에 불과하다:그 본성에서 유래된 것은 아니지만 사회적 구조 안에서 하나의 기능을 갖고 있는(자연 세상과는 반대되는 의미에서)사회적 세상에서 우리는 무엇을 알고 또 무엇을 모르고 있는가. 기업과 정부에 대해 우리가 파악할 수 있는 많은 것들은 법에 의해 지배된다. 프라이버시 법, 사업상 비밀, 통칭 정보자유법—이 모든 것들은 조사에 대해 제한을 설정한다. 이 법들은 어떤 탐사는 아예 시작도 하기 전에 논외로 만들어버린다. 우리는 이것을 물어야만 한다: 누구의 이익을 위해서인가?

     이 중 몇몇 법은 품위있는 사회를 위해 매우 중요하다. 누구도 우리의 화장실 휴식시간을 관리자가 엿들을 수 있는 사회에서 살아가는 걸 원치 않는다. 그러나 정보에 대한 법률들은 개인의 프라이버시보다 훨씬 많은 것을 보호하고 있다. 그 법률들은 제약회사들이 사업상 비밀이라는 베일 뒤에 신약의 위험성을 감출 수 있도록 하고, 은행들에게는 부정자금을 모아두는 회사의 세금 책무를 흐리게 만들 수 있도록 허용한다. 그리고 그것들은 너무나 값어치가 있어서 그것들로 혜택을 보는 이들이 쉽사리 단념하게 만들 수 없다.

     가장 공개적이고 투명해야 할 우리의 일상 생활의 공간인 우리의 정치적, 법적 시스템 마저도 비밀의 논리에 의해 점령당해 있다. 주요한 부분들은 테러와의 전쟁에 따라 비밀 법을 강제하고 법규화하도록 어느 때보다 강한 로비를 받고 있으며, 유권자들은 선거구에 넘쳐나는 검은 돈—기부자가 누군지, 누구의 영향인지, 밝혀진다 해도 오로지 선거가 끝난 후에만 드러나는 돈들—과 씨름하고 있다.

     그러나 강력한 기업들, 금융 기관들, 정부 기관들이 비공개 협악, 사유적 방법proprietary methods, 구속 조항들을 뒤에 자신들의 행동을 숨기고 있는 동안, 우리의 삶은 갈수록 열린 책이 되어 가고 있다. 우리가 온라인에서 하는 모든 것은 기록된다; 남겨진 유일한 문제는 그 데이터를 누가, 얼마나 오래 쓸 수 있느냐 하는 것 뿐이다. 익명화 소프트웨어는 우리를 아주 잠시 지켜줄 수 있을지 몰라도, 숨으려 하는 시도를 한다는 것 자체가 감시 당국에게는 경고 표지로 인식될런지 누가 알겠는가? 감시 카메라, 데이터 블로커, 센서 네트워크, 그리고 슈퍼 쿠키는 우리가 얼마나 빠르게 운전하는지, 무슨 약을 먹는지, 무슨 책을 읽는지, 어떤 웹사이트를 접속하는지를 모두 기록하고 있다. 상업의 세계에서 비밀을 그토록 적극적으로 보호하려는 바로 그 법은, 개인의 프라이버시가 문제가 될 때에는 갈수록 침묵하는 경우가 늘고 있다.

     이 책은 바로 그 불일치incongruity에 초점을 맞춘다. 어떻게 비밀은 월스트리트에서부터 실리콘 밸리에 이르는 산업 전반에서 이토록 중요해졌을까? 사람들과 사업들을 라벨링하고 처리하는 방식을 감추는, 이 보이지 않는 관습invisible practice에 대한 사회적 함의implication는 무엇일까? 프라이버시와 개방성 사이의 균형을 맞추는 데에 법은 어떤식으로 사용되어야 할까? 이러한 질문들에 대한 대답을 얻고자 하는 것은 좀 더 명확한 사회적 질서intelligible social order로 향하는 길을 그려나가는 것으로 이어진다.

     하지만 먼저, 우리는 이 문제를 완전히 이해해야만 한다. 블랙 박스라는 용어는 중의적이어서 이 상황에 대한 은유로 쓰기에 유용하다. 블랙박스는 기록장치, 그러니까 자동차나 열차 혹은 비행기에 쓰이는 일종의 데이터 모니터링 시스템을 가리킨다. 또는 어떻게 동작하는지 미스테리에 둘러싸인 시스템을 의미하기도 한다. 이러한 블랙박스에서 우리는 입력과 출력은 관찰할 수 있지만, 뭔가가 어떻게 다른 무언가로 바뀌는지는 알 수 없다. 우리는 이러한 두 의미를 매일 마주하고 있다. 우리는 기업이나 정부에 의해 갈수록 세밀하게 추적당하고 있지만, 이러한 정보가 얼마나 유통되고 있는지, 어떻게 쓰이고 있는지, 결과적으로 어떻게 되는지 명확히 알고 있지 못하다.

    The Power of Secrecy

     아는 것이 곧 힘이다. 자신을 조사하는 것은 막으면서 다룬 누군가를 조사하는 것은, 권력의 가장 중요한 형태 중 하나다. 회사는 잠재적 고객이나 직원의 삶을 아주 자세한 부분까지 파악하려 하지만, 규제자에는 그들이 자체적인 통계와 조사를 통해 얻은 정보를 가능한한 적게 제공하려 한다. 인터넷 기업은 자신들의 이용자들에 대한 데이터를 갈수록 많이 수집하고 있지만, 이 이용자들 일부가 이렇게 만들어진 디지털 신상명세서를 통제할 수 있도록 하는 규제에는 저항하고 있다.

     기술이 발전할 수록, 시장의 압력은 데이터 게임이 차지하는 비중을 키우도록 작용한다. 감시 카메라는 매년 갈수록 더 싸지고, 각종 센서는 더 많은 장소에 설치되고 있다. 전화기는 우리의 움직임을 추적하고, 프로그램들은 우리의 키보드입력keystrokes을 기록log으로 남긴다. 새로운 하드웨어와 새로운 소프트웨어는 우리가 좋든 싫든, 우리 모두의 수량화된 자신quantified selves를 만들어낼 것이라 약속한다. 이러한 결과로 만들어지는 정보—최근까지만 해도 기록되지 않아오던 방대한 양의 데이터—는 데이터베이스 안으로 쏟아져 들어가 전례없이 깊고 구체적인 프로필의 형태로 조합된다.

     하지만 어떤 결말이 기다리고 있는가? 개인 프라이버시의 축소는 어쩌면 정부와 기업에 대한 투명성이 그만큼 강화되어 매치가 된다면 감수할 수 있는 것일지도 모른다. 하지만 대부분 그렇지 않다. 신용평가자들, 검색엔진들, 주요 은행들, 미 교통보안청은 우리에 대한 데이터를 가지고 점수, 순위, 위험 계산, 중요한 상황에 대비한 감시대상 목록 등으로 변환해서 사용하고 있다. 하지만 그들이 변환 작업에 적용하고 있는 이러한 사유화된 알고리즘은 외부 조사에 대해 면제권을 갖고 있어서 내부고발자가 이에 대해 소송을 제기하거나 유출시키는 아주 드문 경우를 제외하곤 파악하기가 불가능하다.

     때로는 기밀성이 보장된다. 우리는 테러리스트들이 미 국토보안부 요원이 찾는 것이 정확히 어떤 정보인지를 알게 되어 탐지당하지 않고 피해갈 수 있는 걸 원치 않는다. 하지만 우리의 모든 움직임이 (감사 같은 것을 따로 받지 않는) 조직에 의해 조사대상이 될 때에, 민주주의와 자유 시장은 헛된 약속이 되어 버리고 만다. 비밀은 임계점critical mass에 다다랐고, 우리는 아주 중요한 결정을 내리지 못하는 암흑 한가운데에 있다. 커다란 개방성이 긴급하게 필요하다.

    Reputation, Search, Finance

    Secrecy and Complexity

    The Secret Judgments of Software

    The One-Way Mirror

    The Secrecy of Business and the Business of Secrecy

    Looking Back


    2장-나님


    데이타중개상이 어떻게 거래행위를 하는지 명확하게 드러난 것이 없음 – 근본적인 투명성의 부족 (FTC)

    미국법은 정부에게는 정보수집에 대한 제한이 있지만 브로커에게는 제한이 없음 : 정부와 브로커의 결합? : 정부가 브로커로부터 정부를 사들임 : dataveillance

    On data
    중요한 결정들이 데이터 자체가 아니라, 알고리즘으로 분석된 데이터에 기반하여 이루어짐

    신용회사- 사람들에 대한 중요한 결정을 하면서도 그러한 정보 수집과 분석에 대한 방법을 숨김/ 1960년대 훈련되지 않은 조사원에 의한 정보수집 – 편견과 불공정한 감시 : 누구나 비신뢰성과 신용상황의 악화증거로서 수집될 수 있는 어떤 습관들이 있음 ; 이러한 시스템의 문제는 명백했음
    1970년도 언론에서 이를 경고하기 시작하다, 의회는 공정신용보고법(fair credit reporting act)을 통과시킴: 신용회사의 자료의 정확성과 관련성을 요구함: 신용회사자료는 감독을 위해 공개되어야 하며 소비자들은 그들의 정보를 열람하여 살펴보고 수정을 요구할 권리가 주어짐 : 소비자들이 그들의 프로파일에 접근하게 되자, 성적지향 , 살림(?) 등의 의문의 여지가 있는 범주는 사라지게되었다
    그러나 이러한 기록을 다툴수 있다는 것이 정확성을 담보하는 것은 아니었고 현재도 아님.
    정확하지 않은 크레딧 점수의 문제 :  이자율, 차보험, 한번 신용을 가지지 못한 자는 계속 악화됨 : 신용점수는 매우 강력한 결정자이므로 비밀리에 이루어져서는 안됨

    단지 신용에 대한 가능한 영향을 알아보려고 시도하는 것만으로 신용도가 감소됨 : 너무나 애매해서 내부자만이 아는 룰: 500,000파일에 대한 연구에서 29%의 소비자 신용점수가 신용회사간 50포인트 차가 난다는 점이 밝혀짐 :예측불가

    점수화된 사회: 비밀의 신용점수알고리즘에 대한 불만은 증가하고 있지만 적어도 신용점수 알고리즘은 대략적이라도 규제되거나 공개되는 것에 반하여 소비자 프로파일링 세계는 거의 규제되지 않을 뿐만 아니라 공공의 감시로부터의 상당히 벗어나 있음
    산업적 정보 캐기의 보이지 않는 마스터들은 영업비밀이라는 이름으로 프라이버시를 형해화시키고 있음
    Runaway 정보는 단순히 소름끼치기만 한 것이 아니라 실질적인 비용이 발생함: 건강정보들을 근거로 한 건강보험가입거절 – 실제로 처방보고서는 점점 큰 산업이 되어 가고 있음 (2008년 최초 보도된 : 처방전과 개인보험시장에서 활용되는 다양한 방법들) : 사람들을 차별하는 수단으로 활용됨
    의학 기록에서 의학 평판으로 : affordable care act(aca) 통과 :보험가입을 종전 병력으로 차별할 수 없음: 그러나 ACA 는 웰니스 프로그램 참여와 교환으로 보험감액을 증진시키는 규정이 포함되어 있어, 참여자의 인증(의학부터 달리기에 이르는 활동)을 위해 몸에 대한 감시와 정량화된 자아(quantified selves)? 에 대한 시장을 확대만 시킴
    정보부에서 이해하거나 설명되거나 예측되지 않는 방법으로 정보는 수집되고 판매되고 이용됨
    빅데이터는 심각한 위험이 가능하게 함 : 빅대이터를 통한 차별은 혁신으로 치장됨
    Runaway 프로파일
    하나의 회사가 아니라 여러 가지 방법과 수단, 여어 회사들의 정보들의 수집, 결합 등으로 프로파일링 형성됨 : 우선 이러한 프로파일을 폭트가 아니라 의견으로 해석되고 그러면 이를 수정하는 것은 수정헌법 표현의 자유에 근거하여 제한
    이를 수정하는 것도 안 쉬움, 한 회사의 정보를 수정한다 하도 그 회사의 정보를 사간 수 많은 회사들을 어떻게 찾아내 수정할 수 있겠는가.:catherine Taylor 사건-메타암페타민을 구입하고 제조한 의도로 형사처벌을 받은 적이 있다고 잘못 보고되고 그 정보를 근거로는 프로파일러로 취업하기 힘들어짐

    근로현장에서의 빅데이터
    온라인 평가 시스템 –취업되는 날부터 그만두는 날까지

    Recorded future, 구글과 씨아이에이의 관계자로부터 일부 펀딩된 회사, 정교횐 데이터분석기법을 제공함: 그들은 당신이 일하는 것을 지켜본다

    근로자들은 일상적으로 감시를 거부할 권리, 또는 이를 알 권리를 포기함:싸인함으로써 등의 : 키보드입력, 전화대화, 이메일, 기타 등등
    가장 감시가 잘 될 수 있는 직업은 가장 쉽게 자동화될 수 있는 곳이며, 로봇이 대체될 수 있는 곳 : 하지만 그 감시와 데이터 드리븐 방법이 드러나면 근로자들은 이를 우회하거나 악의적으로 활용하는 방법을 알아내 이용하여 직장에서 성공하는 것을 실현하려고 할 가능성이 있고 보스는 이것이 알려질 경우 그러한 가치가 사라지는 것에 대한 우려를 갖게 됨
    차별과 편견의 가속화
    인종 편견의 요령
    알고리즘 역시 사람이 만든 것이라, 사람의 편견이 소프트웨어에 심어짐
    빅데이터에 대한 백악관 보고서 “ 빅데이터 분석은 개인정보가 주거, 신용, 고용, 건강, 교육, 그리고 시장에서 사용되어서는 방법에 대한, 오랫동안 형성되어 온 시민의 권리를 기울게 할 가능성이 있다”

    2012년 연구결과 흑인의 온라인 서비스에서는 불공정한 타겟되어짐이 드러남 : 흑인이름 검색시에는 구속을 전제한 광고가 뜸 v. 백인이름 검색시와 다름 – 결국 구글검색광고자체가 편향적인 인종 알고리즘에 근거
    이에 대하여 구글부인
    어쨌건 알고리즘의 비공개적 때문에 정확한 사실은 알 수 없음
    구글과 다른 인터넷 기업들은 수년간 작업장의 인구구성에 대한 정보제공을 거절하여 옴 : 그러다가 구글은 결국 공개했는데 전체 근로자 중 2%만이 흑인이었음
    쥐매일 계정 광고 ㅡ 차구입: 흑인이름에만 나쁜 신용카드대출, 중고차 구입 광고만 뜸
    구글은 이를 비난함 ㅡ 악의적인 방법론 오류라고
    FTC – 빅대이터알고리즘으로 회사는 사람들을 사회가 법이나 윤리로 사용하지 않아야 한다고 결정한 카테고리, 즉 , 인종, 민족적 배경, 성, 그리고 성적 지향을 이유로 분류해서는 안된다
    Collateral consequences : 전과가 있는 경우, 고용,주거,공적 지원 등에 있어서 제한을 받는 낙인효과
    데이터 드리븐은 소수그룹들을 더 어렵게 만듬

    감시국가의 탄생
    국가가 명성게임에 뛰어듬
    프로파일링으로 예측하여 구속, 체포하는 경우가 나타남 –미국

    9/11이후 정보공유환경(ISE) –셀수 없이 많은 디비들

    정부의 정보수집활동에 대한 이해는 공적 이해가 없는 자들의 이해와 실질적인, 강력한, 폭넓은 비밀의 파트너쉽으로

    원래 파트너쉽 목적과 달리 9-11이후 파트너십은 유독 occupy wallstreet 같은 시위에 집중됨: fBI, 국가안전국, 기업들간의 전략적 파트너쉽이 오큐파이 시위를 모니터링 하는데 이용됨 : 미국 대학은 대학구성원의 정보를 연방국가의 넘김:스파이짓 : 시위에 참여한 사람들은
    국가와 기업간의 희미해지는 구분

    정보공유ISE 

    탈출구는 없고

    그렇다면 정보수집 자체를 막을 수 없다면 그 이용과 프로파일에 대한 행위에 대하여는 규제를 해야 하는 것이 아닐까

    Ch. 3. The Hidden Logics of Search (발제: 젤리)

    1. 검색의 중요성: 검색엔진은,

    A. 인터넷 뿐만 아니라 실제의 삶 (“real life”)을 바라보는 관점에 지속적인 영향을 미침.

    B. Determines what possibilities reach our awareness at all

    C. Is a leveler. 평등하게 하는 것. 우리 (들여다봐지는 우리)가 다른 사람을 들여다볼 수 있게 함.

    D. The power to include, exclude, and rank = the power to ensure which public impressions become permanent and which remain fleeting. 그러나 검색엔진 플랫폼이 어떤 근거로 어떻게 결정을 내리는지 알려진 바가 없음.

    E. The sphere of cultural, economic, and political influence (과거에는 대중매체들이 지배했던 영역)에서 검색엔진이 지배적인 위치 점유 (지배력은 complete하고 기술은 too complex해서 기존 미디어 적용되던 transparency와 accountability가 적용 안 됨)

    F. 검색엔진 사업자들은 객관성(objectivity)과 중립성(neutrality)을 주장하지만 가치부여된/가치에 근거한, 논란을 불러일으키는 (value-laden, controversial) 결정들을 끊임없이 내리고 있음.

    2. 신뢰(trust)의 문제를 야기시키는 4가지 분야들: (1) 투명성(transparency), (2) 경쟁(competition), (3) 보상(compensation), 그리고 (4) 통제(control)

    A. 투명성(transparency) – 갈등이 발생했을 때 어떻게 처리되는지 명확하지 않음. 의미있는 공개는 하지 않고 있고, 중요한 결정들은 기술과 계약을 핑계로 뒤에서 이루어짐. 일은 우리가 안 보이는 곳에서 일어남.

    i. (Ex.) Apple: the App Store Review Guideline위반을 이유로 다음의 앱들을 불허 (Eucalyptus (카마수트라 텍스트-“objectionable content”), Drones+ (2번이나 “not useful”(1차) “objectionable and crude”(2차)), In a Permanent Save State (애플 하청업체 직원의 자살 관련 이야기로 만든 게임앱, 애플은 이 앱을 왜 remove했는지 명확한 이유 밝히지 않음)

    ii. (Ex.) Google: 랭킹을 어떻게 매기는지 자세히 밝히지 않음. “PageRank” method (대충 relevance와 importance를 근거로 한다고만 알려져 있음). 물론 순위 알고리즘이 알려지면 SEO 악용 위험 있음. 하지만….; Foundem (영국 vertical search업체, Google에 의해 downranked되었다고 주장). 구글은 월가의 기대 및 회사주주들의 기대에 부응해야 하는 기업. 단순 검색엔진이 아니라 다양한 사업영역(Gmail, YouTube, Orkut and Google+, Blogger, Image Search, Google News) 보유 및 shopping, travel, advice, reviews, 가격비교 등으로 사업확장). 구글은 사기업이므로 자신들의 상품(검색서비스)만 잘 팔리면 그만이다? 구글은 자신들의 서비스를 public service라고 frame; 또한 구글은 온라인 시장에 참여함과 동시에 그 시장을 만들어내고 있음. 유럽 반독점 당국은 구글의 지배력을 인식(recognize)-구글은 단순히 경쟁업체중의 하나가 아니라 경쟁을 매개하는 hub이며 kingmaker. 2013년 중반 반독점 수사 – 구글이 자신의 서비스를 검색결과에 보여줄 때는 적어도 3개의 라이벌 서비스들의 결과를 함께 제시하기로 합의. 이는 미국의 반독점 당국이 최소한(minimalist)의 접근법을 펼치는 것과는 아주 대조적임.

    iii. 계속 Google: Stealth marketing(광고 아닌척하는 광고들)의 문제 역시 검색과 신뢰가 충돌하는 지점. 첨에는 Editorial과 paid content의 확연한 구분. 2012년에 일반적인 목적의 검색에서 특정분야 (가령 쇼핑)검색으로 넘어가면서 광고와 일반내용의 경계가 허물어지기 시작. FTC 경고는 하지만 실제로 부당광고행위(unfair and deceptive ad)로 제제한 적이 없음. 구글은 예전에는 어떤 변화가 있으면 그걸 사람들에게 설명함으로써 이용자들의 신뢰를 얻으려고 했는데, 이제 구글은 자신들이 너무나도 신뢰받고 있어 그러한 설명들이 불필요하다고 보는 듯. 혹은, 검색엔진의 책임자가 명확하지 않은 fuzzy management의 결과일 수도.

    iv. 구글만 그런 건 아님. 페북도 EdgeRank 방법(이용자들의 news feed 내용결정법)을 밝히지 않음. 2012년 이용자들이 돈내고 특정 포스트를 프로모션할 수 있게 함. 페북도 디지털 콘텐츠 제공자들의 kingmaker가 되어 가고 있으나, 페북이 어떤 사이트들을 프로모션하고 어떤 사이트들을 잊혀지게 만드는 지 전혀 알려지지 않음.

    v. 판단(judgment)의 문제: 구글 2012년 독일 Bettina Wulff 사례 (자동 연관 검색어 문제 – 구글은 “알고리즘에 의해 결정되는 것”이라 자신들이 할 수 있는 일이 없다고 대응). 미국 Rick Santorum 사건에서도 ‘objectivity’유지. 하지만 구글이 검색어 오타 고쳐주는 것이나 가끔씩 구글이 ‘objectivity’ 입장을 포기한 적이 있었음. 가령, 2004년에 홀로코스트를 부정하는 사이트인 Jewwatch가 왜 top 10 결과에 나타나는지를 설명하는 글을 검색결과 페이지 최상단에 제시. (책 74쪽부터의 발제는 구두로만 하겠습니다….)

    B. 경쟁 (competition)

    과거가 미래를 잠식한다

    인터넷 상의 언어인 영어, 경쟁을 잘 할 수 있게 하면

    독점의 상태임

    강제적으로 할 수밖에 없는 상황임
    인터넷상 시장이 개방되어 있다라고 생각함? 정말 사실인가?

    경쟁업체가 소비자에게 도달하는 것까지 구글이 사실상 검색알고리즘으로  결정함

    C. 보상 (compensation)

    구글에서 적정하게 받아가야 하는 부분이 무엇인가

    기여한 사람들이 많은데, 기여한 사람들과 무관하게 기업이 모두 긁어가는게 맞는가?

    D. 통제 (control)

    제5장 – 형님

     제5장 감시자 감시하기(향상시키기)

      

    〇 black box 사회를 좀 더 투명하게 만드는 방법 제안: “공정한 평판 보고”(데이타 수집자들이 알리는 정보 이해), “연방 검색 위원회”(검색 엔진들이 사람들 및 기업에 대해 어떻게 순위를 먹이고 평가하는지 모니터링)

      

    〇 정보, 미디어, 경제 분야를 컨트롤하는 주요 회사들을 ‘감시’하는 것만으로는 부족 -> 감시 기관 및 방법을 향상시키고, 한 분야에서의 성공 사례를 다른 곳에서도 활용하여야 함(신용평가 규제 -> 광고업자 및 기업의 평가 시스템 규제, HHS 및 SEC 분야의 ‘추적 감사’ -> 다른 분야로 확대)

      

    〇 이러한 회사들이 어떻게 움직이는지를 알게 됨으로써 이들을 변하게 할 가능성도 커짐

    – 이들이 어떻게 데이터를 수집하는가 보다는 이를 어떻게 사용하는가를 규제하는데 중점을 두어야 함 

    – 정부의 정책에 반대하는 견해를 가진 사람들을 탄압하는 수단으로 사용되어서는 안 됨 

    – 고용주들이나 은행들이 고용이나 해고를 결정함에 있어서 비밀리에 수집된 건강관련 정보를 활용하도록 하여서는 안 됨 

    – 그들이 사용하는 앨고리듬도 조사의 대상이 되도록 공개되어야 함: 일반공중에게 어렵다면 신뢰할 만한 감시자들에게

      

    〇 대형 인터넷 회사와의 경쟁을 상상하기는 어려움 

    – 신규 업체들은 오히려 구글 등에 매각되는 것을 원함 

    – 더 많은 정보를 가지고 있을수록 이를 이용하여 많은 돈을 벌 수 있음 

    – 상상하기 어려운 ‘경쟁’을 원하기보다는, 검색 및 SNS 분야에서의 ‘자연독점’이 다른 경제분야에 큰 짐이 되지 않도록 하여야 함 

      

    〇 “부자는 더 부자가 되고”, 대형 금융업체들은 “대마불사”(too big to fail) 또는 “유전무죄”(too big to jail) 논리에 의해 더 많은 자본을 끌어들이고 있음 

    – 이들을 작게 쪼개는 것은 금융 분야의 실패와 불안정을 초래할 수 있음

    – 그보다는 몇몇 부분을 교정하는 것이 바람직함 

    〇 평가, 검색, 금융 회사들을 개선하는 첫 단계는 이들이 무엇을 하는지 좀 더 아는 것임 

    – 이는 출발점에 불과하고, 적법절차와 공정한 경쟁을 위해 그들의 사업방법을 변경시킬 필요가 있음 

    – 인터넷 및 금융 회사들의 다른 경제분야에 대한 영향력이 커지면서, 기업과 개인의 평가에 대한 표준을 제시하는 상황이 되었음 

    – 이제 그러한 회사들 자체에 대해 좀 더 높은 표준을 설정할 필요가 있음 


    Advertisements

    One thought on “블랙박스 사회 1차 스터디”

    1. 안녕하세요. 안티고네 출판사입니다. 인터넷 검색을 하다가 반가운 마음에 댓글을 남깁니다.
      Frank Pasquale의 가 라는 타이틀로 엊그제 출간이 되었습니다. 저희 출판사의 첫 번째 책입니다. 많은 관심 부탁드립니다.
      혹 책을 보실 기회가 있으셨을 때, 바로잡을 부분이 있으시면 언제든지 아래 메일로 부탁드립니다.
      antigonebook@gmail.com

      도서 링크 : http://www.aladin.co.kr/shop/wproduct.aspx?ItemId=85890526

      도서 링크 : http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9791195824908&orderClick=LAG&Kc=

      공부하시는데 방해가 안 되었길 바랍니다.
      고맙습니다.

    Leave a Reply

    Fill in your details below or click an icon to log in:

    WordPress.com Logo

    You are commenting using your WordPress.com account. Log Out / Change )

    Twitter picture

    You are commenting using your Twitter account. Log Out / Change )

    Facebook photo

    You are commenting using your Facebook account. Log Out / Change )

    Google+ photo

    You are commenting using your Google+ account. Log Out / Change )

    Connecting to %s