출처 : https://techcrunch.com/2018/12/27/funding-filth/
Google 지난 주 TechCrunch의 문제에 대한 보고서를 통해 WhatsApp에서 사용자를 아동 포르노 공유 그룹으로 유도 한 타사 앱을 제거하기 위해 혼란스러워 했습니다. 우리는 Google에이 앱 중 하나의 이름과 그 앱의 이름과 그 앱과 다른 사람들이 아동 착취 이미지를 공유하기 위해 WhatsApp 그룹에 대한 링크를 제공했다는 증거를 제공했습니다. Google이 기사를 게시 한 후 Google은 Google Play 스토어에서 앱을 삭제하고 5 개 이상을 삭제했습니다. 이러한 앱 중 일부는 다운로드 횟수가 10 만 회를 넘었으며 이미 다운로드 한 기기에서 계속 작동합니다.
WhatsApp 에서 지금 금지 된 아동 착취 그룹의 이번 달 초 스크린 샷. 수정 된 전화 번호 및 사진
WhatsApp는 플랫폼을 적절하게 통제하지 못하고 TechCrunch에 자신의 300 명의 직원 만 검토하고 Facebook의20,000 명의 전담 보안 직원과 중재 직원. 확장 성이 있고 효율적인 인공 지능 시스템은 15 억 사용자의 WhatsApp 커뮤니티를 보호하지 못하는 것이 분명하며 Facebook과 같은 회사는 확장 불가능한 인간 조사원에게 더 많은 것을 투자해야합니다.
하지만 이제 안티 - 괴롭힘 알고리즘 시동에 의해 TechCrunch에 새로운 연구가 제공되었습니다. AntiToxin 은 WhatsApp의 아동 포르노 공유 링에 대한 링크를 호스팅하는 제거 된 앱이 Google 및 Facebook의 광고 네트워크에서 실행되는 광고를 통해 지원됨을 보여줍니다. AntiToxin은이 앱 중 6 개가 Google AdMob, 1 개가 Google Firebase, 2 개가 Facebook Audience Network, 1 개가 StartApp를 실행 함을 발견했습니다. 이러한 광고 네트워크는 Amazon, Microsoft, Motorola, Sprint, Sprite, Western Union, Dyson, DJI, Gett, Yandex Music, Q Link Wireless의 광고를 호스팅하여 수익을 창출하고 브랜드 운영을 유지하면서 브랜드 마케팅 비용을 절감했습니다. , Tik Tok 등.
이 상황은 기술 대기업이 자신의 앱에서 불쾌감을주는 콘텐츠뿐만 아니라 광고를 호스팅하고 수익을 창출하는 타사 앱에서도 불쾌한 콘텐츠를 발견하지 못하고 있음을 보여줍니다. Lisa Studio의 "What Links For Whats" 와 같은 앱을 통해 사람들이 합법적 인 콘텐츠를 공유하고 비즈니스 또는 스포츠와 같은 주제를 논의 할 수있는 WhatsApp 그룹에 대한 끔찍한 링크를 발견하게되면 TechCrunch는 "Child Porn Only no Adv" 및 "child pornography"의 약어로 " Children "또는 "cp" 와 같은 이름을 가진 WhatsApp 그룹을 이끌어 낸 "child porn xvideos"가 있습니다.
아래에 표시된 AntiToxin에서 제공하는 비디오에서 Google AdMob을 실행 한 "Lisa Studio의 Whats For Whats For Group 링크"는 WhatsApp 그룹 검색 결과를 "Child"에 제공하기 전에 Q Link Wireless의 삽입 광고를 표시하는 것으로 표시됩니다. Child Nude FBI POLICE "가 등장하고 초대 링크를 클릭하면 아동 착취 이미지를 공유하는 데 사용되는 그룹에 WhatsApp 내에서 열립니다. TechCrunch는 불법적 인 그룹의 URL과 회원들의 전화 번호를 보여주는 비디오의 끝 부분을 생략했다. (이 비디오 나 기사에는 불법적 인 이미지가 표시되어 있지 않다.)
다른 동영상은 Google AdMob 을 실행 한 앱인 'Video Status Zone 별 whatsapp에 대한 그룹 링크'를 보여줍니다.페이스 북의 잠재 고객 네트워크는 "유일한 cp 비디오"로 묘사 된 WhatsApp 그룹에 대한 링크를 표시합니다.이 앱을 탭하면 WhatsApp 내의 그룹을 여는 버튼이 표시되기 전에 Amazon 사진에 대한 삽입 광고가 먼저 나타납니다. 이 비디오는 WhatsApp의 도움 없이도 WhatsApp에서 불법적 인 콘텐츠 공유 그룹을 찾는 것이 얼마나 쉬운지를 보여줍니다.
Zero tolerance이란 불법 콘텐츠가 없음을 의미하지 않습니다.
이에 대해 Google 대변인은 이러한 그룹 검색 앱이 콘텐츠 정책을 위반했다고 말하면서 더 이상 금지 대상을 찾는다. Google Play에서 식별되고 제거되면 광고 네트워크에 대한 액세스도 일시 중지됩니다. 그러나이 앱이 얼마나 많은 돈을 벌었는지와 광고주에게 환불 여부를 밝히기를 거부했습니다. 회사는 다음 진술을 제공했습니다.
Google은 아동 성적 학대 자료에 대한 제로 관용 접근법을 보유하고 있으며 누락 및 착취 아동을위한 국립 센터 (National Center for Missing and Exploited Children)와 같은 그룹과 기술, 팀 및 파트너십에 투자하여 20 년 이상이 문제를 해결했습니다. 시스템에서 차단하지 않은 이런 종류의 자료를 홍보하는 앱을 발견하면 관련 당국에 신고하고 플랫폼에서 삭제합니다. 이러한 정책은 Google의 광고 서비스를 사용하는 앱은 물론 Play 스토어에 나열된 앱에도 적용됩니다.
| 앱 | 개발자 | 광고 네트워크 | 예상 설치 수 | 마지막 날 순위 |
| 한계 그룹 링크가없는 무제한 그룹 | 잭 레이 한 | Google AdMob | 200,000 | 12/18/2018 |
| Whatsapp를위한 무제한 그룹 링크 | NirmalaAppzTech | Google AdMob | 127,000 | 12/18/2018 |
| 그룹은 Whatsapp에 초대합니다. | 빌 뇌 브레인 | Google Firebase | 126,000 | 12/18/2018 |
| WhatsApp의 공용 그룹 | 비트 빌드 | Google AdMob, Facebook 잠재 고객 네트워크 | 86,000 | 12/18/2018 |
| Whats - Whats for Friends 찾기에 대한 그룹 링크 | 리사 스튜디오 | Google AdMob | 54,000 | 2014 년 12 월 19 일 |
| Whatsapp 2019의 무제한 그룹 링크 | 나탈리 팩 | Google AdMob | 3,000 | 12/20/2018 |
| 그룹 링크 for whatsapp | 비디오 상태 존 | Google AdMob, Facebook 잠재 고객 네트워크 | 97,000 | 11/13/2018 |
| 그룹 링크 - Whatsapp 무료 가입 | Developers.pk | StartAppSDK | 29,000 | 2014 년 12 월 5 일 |
한편 페이스 북은 페이스 북의 잠재 고객 네트워크 광고에 대한 앱의 적합성이 Google Play에서의 이용 가능 여부와 관련되어 있으며 Android 앱 스토어에서 부팅했을 때 앱이 FAN에서 삭제되었다고 말하면서 Google Play를 비난했습니다. 이 회사는 TechCrunch에게이 끔찍한 앱에 프로모션이 표시된 광고주에게 환불 해줄 것이라고 말하면서 더 나을 것입니다. 또한 사용자가 WhatsApp Groups를 검색 할 수 있도록 모든 응용 프로그램에서 Audience Network를 가져옵니다.
Facebook 대변인은 TechCrunch에 " 잠재 고객 네트워크 수익 창출 자격은 앱 스토어 (이 경우 Google) 리뷰와 밀접하게 관련되어 있습니다. Google이 수행 한 [ Bit-Build로 WhatsApp의 공개 그룹]을 삭제 했습니다. 현재 잠재 고객 네트워크에서 수익을 창출하지 않습니다. Google의 정책은 웹 사이트에 있으며 잠재 고객 네트워크가 그룹 초대 링크 앱을 지원하지 않도록주의해야합니다. 이 애플리케이션은 거의 모든 수익을 얻지 못했지만 (500 달러 미만), 영향을받은 모든 광고주에게 환급하고 있습니다. "WhatsApp는 TechCrunch가 지난 주보고 한 모든 불법 그룹을 이미 금지했습니다.
Facebook은 또한 WhatsApp의 불법적 인 이미지 공유 그룹 및 타사 앱을 찾는 입장에 대해 다음과 같은 진술을 제공했습니다.
WhatsApp는 사람이나 그룹을 검색하는 기능을 제공하지 않으며 WhatsApp는 비공개 그룹에 초대 링크를 게시하도록 권장하지 않습니다. WhatsApp는 정기적으로 Google 및 Apple과 계약하여 WhatsApp에 대한 남용을 조장하려는 앱에 서비스 약관을 시행합니다. 이번 주 초 보고서에 이어 WhatsApp은 Google에 알려진 모든 그룹 링크 공유 앱을 삭제 해 줄 것을 요청했습니다. 앱이 Google Play 스토어에서 삭제되면 잠재 고객 네트워크에서도 삭제됩니다.
Amazon Photos에 대한 광고를 실행하는 불법 WhatsApp 그룹을 발견 할 수있는 링크가있는 앱
이스라엘 NGO 인 Netivei Reshet와 Screen Savers는 AntiToxin과 함께 WhatsApp에서 발견 한 광범위한 아동 착취 이미지에 대한 TechCrunch의 보고서 를 제공 했습니다 . Facebook과 WhatsApp는 이스라엘 경찰과 함께 충분한 조사를 제공하기 위해 그룹에서 기다리고 있으므로 WhatsApp은 발견 한 불법 그룹을 삭제하고 사용자 계정을 해지 할 수 있습니다.
항 톡신은 온라인 네트워크 괴롭힘, 따돌림, 쉐이빙, 약탈 적 행동 및 성적 노골적인 활동을 보호하기위한 기술을 개발합니다. Zohar Levkovitz ( SingTel에 4 억 달러에 Amobee 를 판매 한 사람 )와 Ron Porat (광고 차단기 Shine의 CEO) 가 공동 창립했습니다 . [공개 : 회사는 또한 2007 년부터 2012 년까지 TechCrunch에 기여한 Roi Carthy를 고용합니다.] "전례가없는 규모로 전례가없는 수준의 온라인 독성이 어린이에게 전례없는 위험을 안겨주므로 완전히 새로운 사고가 기술에 적용되어야합니다 부모가 자녀를 안전하게 지키는데 도움이되는 해결책 "이라고 Levkovitz는 말합니다. 회사는 애플이 일시적으로 아동 음란물로 인해 Tumblr을 일시 중단 한 사건을 지적하면서 문제가 해결 될 때까지 애플이 앱 스토어에서 WhatsApp를 제거하도록 애플을 압박하고있다.
광고 네트워크를 모니터링해야합니다.
암호화는 WhatsApp이 어린이 착취 이미지의 확산을 막는 것을 방해합니다. WhatsApp는 그룹 채팅에서 공유되는 것을 볼 수 없습니다. 대신 그룹 이름, 프로필 사진, 회원들의 프로필 사진과 같은 공개 및 암호화되지 않은 데이터의 일부를 사용하여 의심스러운 이름이나 불법적 인 이미지를 찾아야합니다. 회사는 이러한 이미지를 알려진 아동 착취 사진이 담긴 PhotoDNA 데이터베이스와 대조하여 차단을 관리하고, 불법 이미지가 이미 파일에없는 경우 조사관에게 조사를 의뢰합니다. 그 결과를 법 집행 기관과 누락 및 착취 아동 센터에보고합니다. 강력한 암호화는 개인 정보 및 정치적 반대 의견을 보호하는 데 중요하지만 불법적 인 콘텐츠를 탐지하지 못하도록하여 더 많은 수동 검토가 필요합니다.
총 직원이 300 명이고 보안 또는 컨텐트 중재를 담당하는 하위 조직 만이있어 대규모 사용자 기반을 관리하기에는 부족합니다. 커뮤니티를 보호하기 위해 AI에 의존하려고했습니다. 그러나이 기술은 아직 착취 퇴치에 필요한 미묘한 조사를 수행 할 수 없습니다. WhatsApp은 페이스 북과는 독립적으로 운영되지만 Facebook이 인수에 더 많은 리소스를 할당하면 아동 포르노 그라피로 이어지는 그룹 발견 애플 리케이션을 조사하기 위해 더 많은 중재자를 고용 할 수 있습니다.
WhatsApp 그룹 검색 앱의 특징 아동 착취 이미지 그룹에 대한 링크가 포함 된 성인용 섹션 막대한 인원과 이윤을 남긴 Google과 Facebook은 광고 네트워크를 호스팅하는 사람들을 적절히 감시하는 것을 게을리합니다. 회사는 다른 앱에 광고를 게재하여 추가 수익을 얻으려고했지만 앱이 범죄를 조장하지 못하게하는 데 필요한 책임을지지 않습니다. 앱이 앱 스토어 나 광고 네트워크에 수락되기 전에 인앱 콘텐츠에 대한 더 엄격한 시험을 실시해야하며, 앱 스토어 또는 광고 네트워크가 실행되면 주기적으로 검사해야합니다. 또한 자동화 된 시스템을 배치 할 수없는 경우 타사 앱을 치안 유지하는 경우처럼 인력 비용을 할당해야합니다.
다른 사람들의 콘텐츠로부터 이익을 얻는 소셜 네트워크 및 광고 네트워크가 유지 관리 비용이 낮은 캐쉬 코가 될 수 없다는 것이 점차 분명 해지고 있습니다. 기업은 기회가 적어 수익성이 높아지더라도 운영하거나 수익을 창출하는 자산을 보호하기 위해 충분한 돈과 노동력을 투자해야합니다. 결과에 관계없이 인터넷의 스트립 마이닝은 끝나야합니다.