토끼 구멍 효과”는 소셜 미디어 플랫폼에서 발생하는 현상으로, 사용자의 몰입도를 높이기 위해 점점 더 극단적인 콘텐츠로 바뀌는 현상입니다. 6개월 전 유튜브 최고 제품 책임자 닐 모한은 “뉴욕 타임즈”와의 인터뷰에서 그 존재를 부인했습니다. 그러나 그 이후 총기 폭력 기록 보관소에 따르면 미국에서 총 302건의 총격 사건이 있었습니다.[a][b]. 이들 중 몇몇은 백인 우월주의자들이었으며, 8월 초에 20명을 죽인 El Paso 같은 사람들은 그들의 믿음과 동기 부여로 소셜 미디어 플랫폼을 인정했습니다. 토끼 구멍 효과에 대한 모한의 거부는 유행어와 논리적 불일치로 가득 차있었습니다. 그의 사건은 극단적인 콘텐츠 경로를 선택하는 것은 사용자의 몫이라는 토큰 주장에 근거하고있습니다. 이 주장은 사용자가 알고리즘으로 선택한 콘텐츠를 강력하게 안내하는 유튜브의 ‘다음’ 밑 ‘자동 재생’ 기능을 고려하지 않습니다. 트위터의 알고리즘 방어는 그리 좋지 않습니다. CEO에 따르면 잭 도시, 인종 차별 콘텐츠를 처벌하는 알고리즘이 일부 공화당 정치인을 처벌하기 때문에 트위터는 모든 백인 우월주의자 게시물을 제거하지는 않습니다.[c][d][e][f]
토끼 구멍의 부정은 치명적입니다. 더 이상 잔혹한 일이 발생하지 않도록 하려면이 영향을 문제로 불러야합니다. 왜 존재하고 누가 도움이 되며 어떻게 해결할 수 있습니까? 이러한 AI 알고리즘을 완전히 거부하는 것은 현실적이지 않습니다. 그것들은 이미 우리 경제와 일상 생활에 필수적입니다. 대신 이러한 도구를 면밀히 조사하고 구현 방법을 번경하력 노력해야합니다.[g]
알고리즘이 얼마나 강력한지강력한지를 먼저 이해합시다. 3년전 Cambridge Analytica는 5천만 명의 페이스북 사용자의 개인 프로필 데이터를 구매했습니다. 이러한 사용자(인구 통계, 연결 및 좋아요)는 Cambridge Analytica의 인공 지능에 대한 ‘훈련 세트’가 되었습니다. 이 AI는 앙상블 모델을 사용하여 사용자를 프로파일링 했습니다. 다양한 머신 러닝 기술이 융합되었습니다. 앙상블 모델을 사용하면 수백 가지의 다른 알고리즘이 어떤 데이터 요소가 관련이 있고 어떤 상관 관계가 진실인지 또는 중요한지, 어떤 유형의 설득이 가능한 설득력이 있는지를 투표할수있습니다. 이도구는 Cambridge Analyrica에만 국한되지 않습니다. 모든 소셜 미디어 회사는 이와 같은 AI 시스템을 사용하여 사용자를 프로파일하고 대상으로합니다. 이 특정모델은 최대 85%의 정확도로 사용자의 정치적 기대를 예측할수있습니다. 공개되지 않은 다른 모델이 더 좋습니다.
소셜 미디어 플랫폼은 사용자의 시간을 상품화합니다. 플랫폼에서 보내는 모든 순간을 판매 할 수 있습니다. 즉, 모든 툴을 사용하여 플랫폼에 더 오래 머무를 수 있습니다. 머신 러닝은 개인으로서 사용자에게 중점을 둡니다. 다른 구성 요소는 보편적 인 인간 행동을 목표로합니다. 페이지를 새로 고침하여 페이지를 새로 고침하는 기능은 예측 불가능성에 대한 우리의 사랑을 활용합니다. 카지노와 마찬가지로 소셜 미디어 플랫폼은 중지 신호를 제거합니다. [h] 아무 것도 클릭하면 새 화면으로 이동할 필요없이 끝없는 콘텐츠 스트림이 제공됩니다. 이 새로운 콘텐츠가 선택되는 방식으로 우리는 극단 토끼 구멍으로 돌아갑니다. 대부분의 플랫폼은 동일한 혁신을 우연히 발견했습니다. 사람들은 항상 다음으로 가장 열광적 인 것을 원합니다. 무해한 정치 동영상을 검색하는 사람은 다른 동영상과 함께 관심을 갖지 않을 것입니다. 너무 예측할 수 없습니다. 그들은 조금 더 크고 의견이 많은 것을 원합니다. 그들은 더 극단적인 것을 클릭합니다.
이전에 YouTube를 사용해 본 사람이라면 누구나 이러한 기능으로 유혹을 받는 것이 얼마나 쉬운 지 알고 있습니다. 알고리즘이 너무 좋습니다. 실제로 특정 동영상의 시청자 중 70 %가 추천 바에서 도착합니다. 또한 페이스 북을 포함한 많은 주요 소셜 미디어 회사의 임원들은 소셜 미디어가 의도적으로 중독성이 있음을 확인했습니다. 콘텐츠를 소비하도록 강요하는이 시스템을 사용하면 신념 시스템을 검색하는 청년들이 소셜 미디어에서 극단주의를 찾는 것은 놀라운 일이 아닙니다.
이것은 큰 문제입니다. 지난 몇 달 동안 인종적으로 동기를 부여한 대량 총격 사건의 여러 가해자들이 소셜 미디어에서 자신의 견해를 얻었음을 구체적으로 밝혔습니다. 미국에서 저지른 증오 범죄의 수는 4년 동안 증가하고 있습니다. 우리는 미국에서 극단주의에 문제가 있으며, 토끼 구멍이 원인 중 하나라는 것이 분명합니다. 현재 이러한 소셜 미디어 회사의 리더는이를 인정하지 않습니다. 모든 소셜 미디어 대기업은 플랫폼에서 ISIS 컨텐츠를 거의 제거했습니다. 백인 우월 주의자들을 제거하기 위해 비슷한 단계를 밟은 사람은 하나도 없습니다. 이것의 주된 이유는 단순히 정치를 논의하는 많은 사용자를 제거함으로써 이 문제를 막을 정도로 심한 금지 조치가 표현의 자유를 제한하기 때문입니다. 이 솔루션은 소셜 미디어가 응원하는것을 다 반대합니다. 업계가 이를 설립 할 것으로 기대하는 것은 비현실적입니다.
다행이도 이것이 유일한 선택지는 아닙니다. 모든 컨텐츠를 제거 할 필요는 없습니다. 사람들이 접근하는 방식을 바꿔야합니다. 토끼 구멍 알고리즘을 변경하면 사람들이 극단주의에 휩쓸리는 것을 만드는데 엄청난 영향을 줄수있습니다. 사람들이 더 충격적이고 극단적인것이 아닌 다른 방향으로 보내 진다면, 그들은 더 체계적으로 통제 할수있고 폭력적이지 않고 평화롭도록 영향을 줄 다른 시스템을 믿을수있는 기회를 가질수 있습니다. 이 회사들은 막대한 금액의 돈을 잃을것이지만, 한 사람이라도 이러한 신념 개발하지 못하게 막을 수 있다면 의심할 여지없이 가치가 있다고 확신할수있습니다.
