출처 : https://jp.techcrunch.com/2018/05/23/2018-05-20-are-algorithms-hacking-our-thoughts/
[편집부 주] 저자 Adriana Stan은 W magazine의 홍보 담당 이사이며, 미디어, 문화, 기술에 관한 저작도 실시하고있다. 그녀는 또한 Interesting People in Interesting Times (흥미로운 시대의 흥미로운 사람들) 이벤트 시리즈와 팟 캐스트의 공동 창업자이다. 또 다른 한명의 저자 Mihai Botarel는 RXM Creative의 공동 창업자이며, 사회와 기술에 대한 저작권을 실시하고있다.
Facebook은 우리의 정보에 액세스하는 방법을 결정 , Twitter는 여론을 좌우하고 , Tinder 데이트 의사 결정에 영향을 미칠 . 우리의 선택 작업을 돕기 위해 우리 자신이 개발 한 알고리즘이 현재 우리의 삶의 모든 측면을 적극적으로 움직이고있는 것이다.
그러나 뉴스를 찾는 방법에서 주변 사람들과 연결 방법에 이르기까지 모든 것에 대해 알고리즘에 대한 의존도를 심화하도록함에 따라 우리는 자신의 행동 방법을 자동화하는 것이 없을까? 인간의 생각은 알고리즘의 과정을 모방하기 시작했다 것일까? 그리고 캠브리지 분석 에 의한 사태는 알고리즘이 우리의 집단적 사고에 들어가 왔을 때 무슨 일이 오는 것인지, 그리고 무엇이 일어나는지에 대한 경고 인 것일까?
이렇게되는 것은 상정되지 않았다. 제품, 사람, 그리고 항상 넘치는 놀라운 양의 정보에서 선택한 작업에 압도 된 우리는 둘러싼 세계를 더 잘, 더 빨리, 더 쉽게 살아갈 위해 프로그램을 다녀온 것이다. 명확한 매개 변수와 일련의 간단한 규칙을 사용하여 알고리즘은 복잡한 문제를 이해하는 것을 돕는다. 그들은 우리의 디지털 동반자이며, 모든 국면에서 생기는 현실적인 문제를 해결하고 의사 결정 방식을 최적화 해 준다. 인근에서 최고의 레스토랑은 어디 일까? Google은 그것을 알고있다. 목적지에 어떻게 가면 좋을까? Apple Map이 도움이된다. 최신 카드 스캔들은 무엇일까? Facebook을 읽으면 알 수도 있고, 모를지도 모른다.
우리의 모든 필요와 욕망을 예측할 수 있도록 코드와 알고리즘이 우리의 좋아하는 것, 싫어하는 것, 취향 등에 대해 잘 알고있는 건 멋진 일이 아닐까? 이 덕분에 우리가보고있는 것에 대해 골똘히 생각하고 시간을 낭비 할 필요는 없다 : 그냥 자신의 의견을 강화하는데 최적의 기사를 읽고 개인적인 기준에 맞는 사람과 데이트 하고, 친숙한 즐길 속에 정신을 잃을 수있다. 우리는 언제나 자유 롭다 상상 해 주었으면 정말 중요한 일에 집중할 수있는 것이다 : 경보 디지털 페르소나를 조정하고 자신의 정체성을 Instagram에 투영한다.
우리의 생각이 기계에 의해 결정되면 먼저 언급 한 것은 칼 마르크스였다. 이 아이디어는 Ellen Ullman에 따르면 1997 년 책 " Close to the Machine "에서 언급되는 것이지만, 오늘 우리가하고있는 많은 문제를 예측하고있다. 인터넷의 발명에서 시작하여 우리의 삶을 더 쉽게하기 위해 개발해온 알고리즘은 궁극적으로 우리의 행동 방식을 프로그래밍 할 수있게되었다.
사진 제공 : Shutterstock / Lightspring
다음으로, 3 개의 알고리즘 프로세스와 그들이 인간의 사고에 침입하여 우리의 행동을 납치하는 방식을 소개하고 간다.
1. 제품 비교 : 온라인 쇼핑에서 데이트까지
Amazon의 알고리즘을 사용하여 제품을 검색하고 비교하고 나중에 선택하기 위하여 저장하고 궁극적으로 구입할 수있다. 그러나 전자 상거래의 경험을 향상시키기위한 도구로 시작된 그것은 이제 원래의 것을 훨씬 초과하는 것으로되어있다. 우리는이 알고리즘을 내면화하고 그것을 우리의 삶의 다른 영역에도 적용하고있다 - 예를 들면 인간 관계 등.
현대의 데이트는 온라인 쇼핑에 비슷하다. 소셜 플랫폼이나 애플리케이션에 의해 지원되고 우리는 무한한 선택을 찾아보고 그 특징을 비교하여 자신의 욕망을 충족 상세한 개인의 취향에 완벽하게 적합한 것을 선택한다. 또는 전자 상거래의 세계와 디지털 데이트의 세계에 침투하는 선택의 환상을 방황하며 영원히 결정을 지연하고 '나중에보기'에 저장하고 계속 수도있다.
온라인 세계는 무한의 제품 공급원이 이제 인간에 대해서도 같은 것이되고있는 것이다. "웹은 지금까지 없을 정도로 종류의 상품과 서비스에 액세스 할 수 있습니다 거기에서 가장 마음에 드는 것을 선택할 수있다."라고 Ullman은 Life in Code에서 설명하고있다 . "선택함으로써 행복이 온다는 생각이있다. 빈에서 환상의 비참함을 데려 오는 선택에 채워진 바다 다."
우리는 모두 자신의 요구는 완전히 독특한 것이라고 생각할 수 좋아한다. 그리고 자신의 욕망에 완벽하게 일치하는 것을 찾는다는 약속이 가져다 유혹과 기쁨의 감각은 분명히 존재한다.
쇼핑과 만남을 막론하고 우리는 항상 검색, 평가, 비교하도록 프로그램되어있다. 알고리즘에 의해 구동되어 더 큰 의미에서 웹 디자인과 코드에 의해 우리는 항상 더 많은 대안을 찾고있다. Ullman의 말을 빌리면 "당신은 특별하다 당신의 요구는 독특하다, 그리고 알고리즘은 당신의 독특한 요구와 욕망에 완전히 일치하는 것을 찾을 수 있도록 '라는 생각을 웹은 강화 있는 것이다.
한마디로 말하면, 우리의 삶의 방식이 인터넷에 마주 방법을 흉내 내고있는 것이다. 알고리즘은 간편한 수단이다 불쾌한 인간 생활 ... 얽힌 인간 관계와 가능한 일치에 대해 2 가지 중 어느 하나를 행하게주기 때문이다 : 그것에 대처하는 명확하고 아르고 리듬 프레임 워크의 적용 또는 알고리즘 자신에 선택 자체도 맡겨 버리는 방식. 우리는 자신의 말로 기술을 사용하는 것이 아니라 알고리즘에 적응 교제 강요되고있다.
이 것은 원래는 단순한 디지털 행동에서 비롯된 또 다른 실제 현상으로 이어질 : 제품과 경험의 등급이다.
2. 인간의 수치화 : 평가 및 의견
다른 선의의 알고리즘과 마찬가지로, 이것은 당신만을 염두에두고, 당신만을 위해 설계되어있다. 당신의 피드백을 이용하여 당신의 요구에 정확하게 부응 할 수 당신만을위한 타겟 추천을 제공하고 지금까지 좋아했던 일을 더 제시함으로써, 아무 생각없이 소비를 계속할 수있다.
Uber 탐에서 Postmate 배송, Handy 청소까지 약 모든 실생활에서의 교환이 1-5의 스케일로 디지털 채점된다.
사회로, 이렇게까지 우리가 어떻게 인식되고 어떻게 행동하고 다른 사람들의 기대와의 차이를 고려하는 시대는 일찍이 없었다. 우리는 갑자기 Airbnb 호스트의 디자인 취향과 청결과 같은 주관적를 정량화 할 수있게되었다. 그리고 그것을 우리가 임박 할 감각은 믿을 수 없을 정도 다. Uber을 내릴까 내려 아닌가 가운데, 신경으로 5 개의 별을 붙이고 승객 평점을 높이기 위해 상당한 칩을 들뜬 식. 그러면 대가로 빠르게 리뷰를받을 수! 그리고 행복의 기쁨으로 충만하는 흐름이다.
아마도 당신은 그 것을 디스토피아 인 Black Mirror 시나리오 듯한 있다고 생각할지도 모르고, (풍자 짠 코미디 프로그램 인) Portlandia 노시 에피소드 같은 것이라고 느낄지도 모른다. 그러나 우리는 디지털 점수가 우리의 삶의 모든 의미를 동시에 대체 움직이는 세계에서 그다지 멀리 떨어져있는 것은 아니다.
우리는 다른 사람과의 교류 방법을 자동화 해왔다. 우리는 끝없는 자기 개발주기에서 이러한 상호 작용을 지속적으로 측정하고 최적화하는 것이다. 그것은 알고리즘에서 시작했지만 지금은 후천적 인 습성이있다.
Jaron Lainier가 "Close to the Machine"의 서문에 쓴 것처럼 "우리는 자신의 아이디어를 사용하여 프로그램을 작성했는데, 그 프로그램을 사용한 생활을 계속 중에 ... (중략) ... 그들을 자연에 포함 된 사실이라고 받아들이는되었다 "것이다.
왜냐하면 기술은 추상적이고 종종 막연한없는 바람직한 성질을 정량화 있기 때문이다. 알고리즘을 통해 신뢰 평점 및 리뷰에 인기는 "좋아요"에 사회적 인지도는 추종자로 변환되어 간다. 알고리즘은 어떤 의미 보도리야루 의 예견 한 세계를 만들어 낸 것이다, 거기에 각각의 평점이 대상으로하고있는 실제 물건을 완전히 덮어 버린다. 그리고 거기에서 디지털 리뷰이 실제의 실제 경험보다 더 리얼하고 확실하게 의미있는 같은 생각이 들어 버린다.
실생활의 복잡성과 혼란에 마주 알고리즘은 우리가 그것을 단순화하는 데 도움이된다. 사회적 상호 작용에서 성가신 일을 제거뿐만 아니라 다양한 의견과 실생활에서의 피드백에서 가져온 불안도없고하여 모든 것을 평점 상자 속에 제대로 거둘 것이다.
그러나 우리가 자신의 생각의 일부로 프로그래밍 언어, 코드, 알고리즘을 도입하는 때, 인간의 본성과 인공 지능은 일체화되어가는 것일까? 지금까지 우리는 AI를 우리의 힘이 너무 못 미치는 외부적인 힘이라고 생각 해왔다. 만약 AI의 가장 직접적인 위협이 로봇이 세상을 지배하는 것보다 기술이 우리의 의식과 주관에 포함되어 버리는 일이라고하면 어떨까?
스마트 폰이 우리의 신체 감각의 연장 된 바와 같이, 알고리즘은 우리의 생각의 연장에 이루어지고있는 것이다 (마샬 맥루한이 살아 있다면, 아마 이렇게 말할 것이다). 그러나 그들이 우리를 인간 으면 차지하는 성질을 대체 갈 때 우리는 무엇을 할 것인가?
그리고 Lainier가 묻는다 같이 "컴퓨터가 인간의 언어를 점점 중개하도록함에 따라 언어 자체는 변경 시작할 것인가?"
사진 : antoniokhr / iStock
3. 언어의 자동화 : 키워드와 버즈 워드
Google은 키워드에 따라 검색 결과를 인덱싱한다. SEO는 특정 전술에 따라 웹 사이트를 검색 결과의 상위에 부각시킨다. 이것을 달성하기 위해 알고리즘에 임해, 어떻게하면 잘 가는지를 살펴보고, Google의 눈에 띄는 같은 키워드를 웹 사이트 고물 것이다.
그러나 Google의 알고리즘과 비슷 우리의 마음은 정보를 키워드 반복 및 빠른 팁에 따라 우선 붙이고있다.
그것은 기술에 대해 구축 전략으로 시작했지만 지금 제목을 쓰는 방법에서 트윗에서 "참여"를 만들어내는 방식, 그리고 비즈니스와 일상 생활 속에서 자신을 표현하는 방법에 이르기까지 우리가 할 모든 일에 침투하기 시작했다.
미디어의 세계와 시작 장면 모두를 지배하는 버즈 워드의 유행을 생각했으면 좋겠다. 거기에 출현하는 여러 가기 시작을 빠르게 바라 보면 사람들의주의 - 그리고 투자자의 자금 -을 유치하는 가장 좋은 방법은 "AI" "암호"또는 "블록 체인"이라고 말한다 말을 회사의 선전 문구에 추가 것이라는 것을 알 수있다.
기업은 키워드를 통해 세계에 발신하고 있는지에 기초하여 평가되고있다. 프레젠테이션 장소가 더 버즈 워드로 채워진다 정도로 연기에 감겨 진 투자자가 거기에 투자를 줄 가능성이 높아진다. 마찬가지로, 버즈 워드를 포함한 머리글 쪽이 클릭 될 가능성이 훨씬 높기 때문에, 버즈 워드의 것이 실제 내용보다 탁월하게 시작한다. (화려한 제목으로 클릭을 초대 수단이다) 클릭 베이트는 그것을 보여주는 하나의 예이다.
우리는 어디로가는 것일까?
기술은 우리에게 명백한 패턴을주고있다. 예를 들어, 온라인 쇼핑 넘치는 선택 안을 나아가는위한 쉬운 방법을 제공하고있다. 따라서 우리는 다시 생각할 필요는 없다 - 우리는 단지 알고리즘이 최선의 방법을 알고 있다고 가정하고 작업하고있을 뿐이다. 우리는 그들이 어떻게 작동하는지 정말 이해하고있는 것은 아니다. 코드는 은폐되어 있기 때문에 우리는 그것을 볼 수 없으며, 알고리즘은 단지 결과와 솔루션을 마법처럼 제시 할 뿐이다. Ullman는 Life in Code에서 다음과 같이 경고하고있다 "우리를 위해 복잡성이 숨겨져 다루어지는 것을 허용한다면, 최소한 우리가 무엇을 무조건 있는지에주의를 지불해야합니다. 우리는 준비된 부품 이용자된다는 위험을 짓고 있습니다 ... (중략) ... 우리가 근본적으로 이해하지 메커니즘을 상대하고있는 것입니다. 모두가 예상대로 일하고있는 한 이런 '무지'도 허용되는 것입니다.하지만 뭔가가 손상되거나 잘못하거나 근본적인 변화를 필요로 할 때 우리 자신의 창조물을 앞두고て, 속수무책으로 서있는 외에 무엇을 할 수 있을까요? "
트럼프 시대의 가짜 뉴스 오보 소셜 미디어 타겟팅의 시작이다.
사진 제공 : Intellectual Take Out
그런데, 그렇다고하면, 비판적 사고를 장려하고 프로그래밍에 더 관심을 가지고 旧 き 시절의 논쟁과 이의 어떻게 되 찾으면 좋은 것인가? 불화를 조성하고 번영하고 우리 자신의 견해에 도전하도록하기 위해 우리는 무엇을 할 수 있을까?
우리가 기술이 만들어내는 산만 거품 속에서 행동 할 때, 그리고 소셜 미디어 피드가 자신과 비슷한 생각을 가진 사람들로 구성되어있을 때, 사회가 변화하는 것은 기대할 수 있을까? 일어나는 것으로 말하면, 알고리즘이 우리에게 자극하도록 결국 행동 해 버리는 것이다. 이것을 깨기는 현재에 의문을 제기 사실을 분석하여 자신의 결론에 도달하는 것이 필요하다. 하지만 그런 일에 할애 할 시간을 가지는 것은 없다. 이렇게 우리는 Facebook 기계의 기어 화 선전의 영향을 받아 경사에 근무하는 알고리즘을 의식 할 수없는 - 그리고 그것은 우리의 생각 과정 속에 포함되어있다.
자신의 결정에 대한 프로그래머와 설계자가 아니라 알고리즘의 사용자로서 우리는 자신의 지능을 인공적인 것으로 만들어 버린다. Douglas Rushkoff 말한대로 이것은 "프로그램하는지 아니면 프로그래밍되는 것인가" 의 문제이다. 만약 캠브리지 아나리티카 사건과 2016 년 미국 선거에서 배운 것이 있다면 여론을 리버스 엔지니어링에 걸쳐 결과에 영향을주고, 데이터, 대상, 그리고 봇이 잘못된 합의의 감각에지도 세계를 만들어내는 것은 의외로 간단하다는 것이다.
또한 귀찮은 것은 우리가 매우 신뢰할 수있는 알고리즘 - 우리의 삶에 깊이 짠 우리의 가장 개인적인 선택에 영향을주고있다 -은 우리의 사고 과정에 침투 를 종료한다. 오히려 더욱 더 중요한 것으로되어있다. 만약 우리가 알고리즘의 사용자가 아닌 프로그래머로서의 역할을 되 찾아야 결국은 알고리즘이 우리 사회의 미래 형태를 만들어가는 것이 될 것이다.