코로나 바이러스, 소셜 미디어의 첫 번째 방어선 중단

코로나 바이러스, 소셜 미디어의 첫 번째 방어선 중단
페이스 북, 트위터, 유튜브는 모두 이번 주에 수천 명의 콘텐츠 운영자가 집으로 보내 져서 더 많은 피드를 머신에 제공한다고 발표했다.

전 세계 FACEBOOK 사용자 는 화요일 밤 피드에서 이상한 일이 발생하기 시작했습니다. 페이스 북의 스팸 규칙을 위반 한 것으로 알려진 대서양 , USA 투데이 , 타임스 오브 이스라엘 , 버즈 피드 등 합법적 인 뉴스 매체와 웹 사이트에 대한 링크가 대량으로 게시 중단되었습니다. 이 문제는 많은 사람들이 개발중인 코로나 바이러스 유행병에 관한 뉴스 기사와 정보를 공유하는 능력에 영향을 미쳤습니다 . 캐나다의 전문가이자 팟 캐스트 호스트 인 Andrew Lawton 은 Facebook이 에피소드 보관함을 지웠다는 사실에 충격을 받아 Covid-19에 대한 업데이트를 공유하지 못하게되었다고 말했습니다. "이것은 비현실적이다"라고 그는 삭제 된 트윗에 썼다.

페이스 북은 기인 플랫폼의 자동화 된 스팸 필터의 평범한 버그 문제를하지만, 일부 연구자 전 페이스 북의 직원은도 와서 무엇의 선구자이다 걱정. 전 세계적으로 건강 위기가 닥치면 서 수백만 명이 가정에 갇히게되었으며 소셜 미디어 플랫폼은 사람들이 정보 를 공유 하고 서로 교류 할 수있는 가장 중요한 방법 중 하나가되었습니다 . 그러나 직원 및 계약 업체의 건강을 보호하기 위해 Facebook 및 기타 기술 회사는 첫 번째 방어선 역할을하는 컨텐츠 중재자를 집으로 보냈습니다.인터넷의 공포에 맞서 그들의 일은 종종 불가능하지는 않지만 집에서하기가 어렵습니다. 노동력이 없으면 인터넷은 덜 자유롭고 무서운 곳이 될 수 있습니다.

UCLA의 정보 연구 교수이자 Behind the Screen : Social Media의 그림자에있는 콘텐츠 중재 위원 인 Sarah T. Roberts는“우리는 종종 인간의 개입으로 숨겨져있는 흔적을보기 시작할 것입니다 . "보통 보이지 않는 것이 무엇인지 알 수 있습니다. 물론 가능합니다."

이후 2016 년 미국 대통령 선거 , 페이스 북은 대폭 중재 기능을 램프 업. 하여 2018 년 말 , 그것은 30,000 명 이상의 사람들이 콘텐츠를 검토 그중 절반, 안전 및 보안 작업을했다. 이러한 중재자의 대부분은 전 세계 사무실에서 Accenture 또는 Cognizant와 같은 회사에서 고용 한 계약직 근로자입니다. 그들은 Facebook에 폭력, 아동 착취, 스팸 및 기타 부적절한 콘텐츠가 없도록 유지합니다. 그들의 직무는 외상을 입지 않으면 스트레스를받을 수 있습니다 .

월요일 밤, 페이스 북 은 수천 명의 계약 내용 중재자가“추가 통지가있을 때까지”집으로 보내질 것이라고 발표했다 . 페이스 북이 풀 타임 직원에게주는 1,000 달러의 보너스를 받지 못 하더라도 근로자들은 여전히 ​​보수를 받습니다 . 간격을 메우기 위해 Facebook은 더 많은 작업을 인공 지능으로 전환하고 있으며 Mark Zuckerberg CEO 는 수년간 컨텐츠 조정 의 미래 로 예고하고 있습니다 . 그러나 가장 민감한 내용 중 일부는 전임 직원에게 제공 될 것이라고 주 커버 그는 수요일 기자들에게 사무실에서 계속 일할 것이라고 한 기자들에게 말했다.

주 커버 그는 페이스 북 사용자들 사이에서“집에서 격리하는 것이 우울증이나 정신 건강 문제로 이어질 수 있다고 개인적으로 매우 걱정하고있다”고 말했다. 잠재적 맹공격에 대비하기 위해 Facebook은 자살 및 자해와 같은 것에 관한 콘텐츠를 관리하는 사람들의 수를 늘리고 있다고 덧붙였다. 또 다른 우려는 잘못된 정보의 확산입니다. 항상 온라인에서 문제가되지만 특히 공중 보건 위기에 처해 있습니다. 페이스 북은 코 비드 -19에 대한 광범위한 대응의 일환으로 코로나 바이러스 정보 센터 를 뉴스 피드에 배포한다고 발표했다 .

스팸 결함에 대한 불만이 화요일에 커지면서 영향을받은 이전 직원과 일부 Facebook 직원은 회사의 최근 워크 플로 변경과 관련이 있는지 궁금해했습니다. 페이스 북의 전 보안 책임자 인 알렉스 스타 모스 (Alex Stamos) 는 트위터 에서“FB의 스팸 방지 규칙이 엉망이 될 것 같다” 고 말했다 . “Facebook은 어제 홈 컨텐츠 운영자를 보냈는데, 회사는 개인 정보 보호 정책으로 인해 집에서 일할 수 없습니다. 우리는 인간의 감시가 줄어든 [머신 러닝]이 시작될 것입니다.”

가이 로젠 (Guy Rosen)의 페이스 북 청렴 부사장은 다음과 같이 분명히 밝혔습니다.“이 문제는 스팸 방지 시스템의 버그이며 컨텐츠 운영자의 변경 사항과 무관합니다. 우리는이 모든 게시물을 수정하고 다시 가져 오는 과정에 있습니다.”라고 Twitter의 Stamos에 대한 답변 으로 썼습니다 . (화요일 저녁에 무슨 일이 일어 났는지에 대해 더 자세한 정보를 요청하자 페이스 북 정책 커뮤니케이션 매니저 인 앤드류 푸사 테리는 WIRED를 로젠의 트윗으로 안내했다.)

그러나 연구원들은 강력한 인간 중재자 팀이 없다면 화요일 밤과 같은 문제가 더 흔해질 수 있다고 말합니다. 유튜브 와 트위터 는 월요일에 그들의 계약자들도 집으로 보내질 것이며, 또한 자동 플래 깅 툴과 AI 기반 리뷰 시스템에 더 많이 의존 할 것이라고 발표했다. 레딧의 대변인 인 리 앤 베니스 비츠 (Leigh Ann Benicewicz)는 화요일에 회사가“모든 직원을 위해 집에서 의무적으로 일하는 법을 제정했다”고 밝혔다. 그녀는 정책이 콘텐츠 조정에 어떤 영향을 미치는지 자세히 설명하지 않았습니다. Twitch는 즉시 의견 요청을하지 않았습니다.

중재자가 적을수록 인터넷은 외부 세계와의 주요 커뮤니케이션 모드로 소셜 미디어에 의존하는 수백만 명의 사람들에게 크게 변화 할 수 있습니다. Facebook, YouTube, Twitter 및 기타 사이트에서 사용하는 자동화 된 시스템은 다양하지만 종종 키워드와 같은 것을 감지하고 이미지를 자동으로 스캔하며 게시물이 규칙을 위반하는 다른 신호를 찾아 작동합니다. 세인트 존스 대학 법대 교수 인 케이트 클로 닉 (Kate Klonick)과 페이스 북을 연구하는 예일 정보 사회 프로젝트 (Yale 's Information Society Project)의 동료 인 케이트 클로 닉 (Kate Klonick)은 모든 것을 파악할 수는 없다고 말했다. 자동화 된 시스템이 중요한 위반 사항을 놓칠 가능성을 줄이려면 기술 거인의 조정 노력이 지나치게 광범위해야합니다.

“저는 그들이 어떻게 할 것인지조차 모릅니다. [Facebook 's] 인간 리뷰어는 많은 시간을 제대로 얻지 못했습니다. 여전히 놀라 울 정도로 나쁘다”고 말했다. 그러나 자동 게시 중단 시스템은 훨씬 더 나쁩니다. “잘못된 콘텐츠가 많이 나올 것입니다. 정말 미쳤어 요.”

이는 중요한 시간 동안 언론의 자유와 정보의 흐름에 영향을 줄 수 있습니다. A의 블로그 게시물 의 변화를 발표, YouTube는 "사용자와 제작자가 정책을 위반하지 않을 수 있습니다 일부 동영상을 포함하여, 증가 된 비디오 제거를 볼 수 있습니다."주목 이 사이트의 자동화 된 시스템은 매우 부정확하여 YouTube가 "위반에 대한 확신이 높은 경우를 제외하고"규칙을 위반하는 동영상을 올리는 경고를하지 않을 것이라고 말했습니다.

논쟁적인 컨텐츠 조정 결정을 검토하는 독립적 인 패널 인 Facebook의 계획된 감독위원회 에 대한 그녀의 연구의 일환으로 Klonick은 회사의 집행 보고서를 검토하여 Facebook 및 Instagram의 컨텐츠를 얼마나 잘 감시하는지 자세히 검토했습니다. 클로 닉은 11 월부터 가장 최근의 보고서에 대해 그녀를 강타한 것은 페이스 북이 철회 한 결정의 대부분이 자동화 된 신고 도구와 기술에서 비롯된 것이라고 밝혔다. "오류의 ​​여백이 매우 높으므로 과도하게 검열되고 [잠재적으로] 위험한 경향이 있습니다"라고 그녀는 말합니다.

주 커버 그는 수요일에 그 팀들을 구성하는 많은 계약직 근로자들이 집에서 일을 할 수 없을 것이라고 말했다. 전 세계의 일부 컨텐츠 중재자는 원격으로 작업하지만, 역할의 특성으로 인해 사무실에서 작업해야하는 직원이 많습니다. 중재자는 아동 착취, 테러, 자해 등에 관한 매우 민감한 그래픽 게시물을 검토해야합니다. 로버츠는“이 시설이 일반인에게 유출되는 것을 막기 위해“이러한 시설은 높은 수준의 보안으로 처리됩니다”라고 말합니다. 예를 들어, 근로자는 종종 핸드폰을 사물함에 보관해야하며 책상으로 가져갈 수 없습니다.

주 커버 그는 기자들에게 컨텐츠 중재자가 근무하는 사무실에는 집에서 액세스 할 수없는 정신 건강 서비스가 있다고 말했다. 그들은 종종 치료사와 상담원을 직원, 복원력 훈련 및 사람들에게 휴식을 취하도록하는 안전 장치를 갖추고 있습니다. (페이스 북은 The Verge 가 일부 계약 업체 사무실에서 황량한 근무 조건에 대해 보도 한 이후 작년에 이러한 프로그램 중 일부를 추가했습니다 .) 이번 주에 많은 미국인들이 발견 한 것처럼, 재택 근무가 고립되면 자체 스트레스를 유발할 수 있습니다. Roberts는“공유 작업 영역에 있으면서 상호 지원 수준이 높아집니다. "이것이 골절 될 때, 직원들이 서로 기대거나 직원에게 의지 할 수있는 콘센트가 어느 정도 있을지 걱정됩니다."

쉬운 선택은 없습니다. 중재자를 다시 직장으로 보내는 것은 변명 할 수없는 공중 보건 위험이 될 수 있지만 집에서 일하게하면 개인 정보 보호 및 법적 문제가 발생합니다. 조정 작업을 대부분 기계에 맡기는 것은 실수 할 여지가 거의없는 시간에 더 많은 실수를 받아들이고 수정하는 능력이 줄어드는 것을 의미합니다.

기술 회사는 암석과 어려운 장소 사이에 남아 있다고 Klonick은 말합니다. 전염병 동안 정확하고 신뢰할 수있는 중재가 그 어느 때보 다 중요하지만이를 수행 할 자원이 부족합니다. "잘못된 정보를 삭제하거나 잘못된 계정을 금지하면 사람들이 문자 그대로의 광장으로 갈 수 없기 때문에 사람들이 어떻게 말할 수 있는지에 대한 영향을 받게됩니다."라고 그녀는 말합니다. "그들은 인터넷 어딘가에 가야합니다."