페이스 북 는 지난 분기 신기술 덕분에 어린이 착취에 대한 규정을 위반 한 870 만 개의 콘텐츠를 삭제했다고 발표했습니다. 페이스 북의 전 세계 안전 책임자 인 안티고네 데이비스 (Antigone Davis) 는 블로그 게시물에서 지난 1 년 동안 회사에서 개발하고 구현 한 새로운 인공 지능과 기계 학습 기술을 통해 99 %의 게시물을 삭제했다고 전했다 .
새로운 기술은 업로드 된 아동 누드 및 기타 착취 콘텐츠에 대한 게시물을 검토하고 필요한 경우 누락 및 착취 아동을위한 국립 센터에 사진과 계정을보고합니다. 페이스 북은 이미 사진 매칭 기술 을 이용해 새로 업로드 된 사진과 아동 착취 및 복수 포르노의 알려진 이미지를 비교했지만,이 새로운 도구는 이전에 확인되지 않은 콘텐츠가 플랫폼을 통해 전파되는 것을 방지하기위한 것입니다.
이 기술은 완벽한 것이 아니며 많은 부모들이 자녀의 무해한 사진이 삭제되었다고 불평하고 있습니다. Davis는 "학대의 잠재 성까지도 피하기 위해 목욕탕에있는 어린이의 겉보기 양성 사진과 같은 비 섹슈얼 콘텐츠에 대해서도 조치를 취할 것"이며이 "포괄적 인 접근법"이 Facebook의 한 가지 이유라고 쓰고 있습니다 지난 분기와 마찬가지로 많은 콘텐츠가 삭제되었습니다.
그러나 페이스 북의 검토 기술은 결코 완벽한 것은 아니며 많은 사람들은 그것이 포괄적이거나 정확하지 않다고 생각합니다. 가족 스냅 사진 외에도 베트남 남부의 네이팜탄 공격으로 3도 화상을 입은 후 벗은 채 "나폴 름 소녀 (Napalm Girl)"라고 알려진 Phan Thi Kim Phuc의 상징적 인 1972 사진과 같은 콘텐츠를 삭제 한 것에 대해 비판을 받았으며, Sheryl Sandberg가 사과 한 결정 .
작년에 영국의 아동 학대 방지 협회 ( Social Society for Children 's Anti-Celelty to Children to Anti-Child of Anti -Compliance)는 비공식 검토 및 비 준수에 대한 벌금형을 부과 받았다 . 페이스 북 라이브의 출시로 인해 플랫폼 및 사회자 (소프트웨어 및 인간)가 성폭행, 자살 및 살인에 관한 비디오 (아빠가 방송 한 11 개월 된 아기의 동영상 포함)를 압도 할 수 있습니다 .
그러나 소셜 미디어 콘텐츠를 조정하는 것은 AI 기반 자동화가 어떻게 사람의 이익을 얻을 수 있는지에 대한 주목할만한 예입니다. 지난 달 페이스 북 콘텐츠 중재자였던 셀레나 스콜라 (Selena Scola)는 수천 개의 폭력적 이미지를 가려 내면 외상 후 스트레스 장애를 일으켰다 고 주장하면서이 회사를 고소했다 . 많은 중재자들 (계약자들 중 많은 사람들이 또한 그 일의 심리적 통행료 를 말하고 페이스 북은 충분한 훈련, 지원 또는 재정적 보상을 제공하지 않는다고 말했다).