https://techcrunch.com/2017/11/27/facebook-ai-suicide-prevention/?ncid=rss
생명을 구하는 소프트웨어입니다. Facebook의 새로운 "사전 검색"인공 지능 기술은 모든 게시물에서 자살 충동의 패턴을 검색하고 필요시 정신 건강 자원을 위험에 처한 사용자 나 친구에게 보냅니다. 또는 지역의 첫 번째 응답자에게 연락합니다. AI를 사용하여 사용자 보고서를 기다리지 않고 인간의 중재자에게 걱정스러운 게시물을 표시함으로써 Facebook은 도움을 보내는 데 걸리는 시간을 줄일 수 있습니다.
페이스 북은 이전에 인공 지능을 사용하여 문제가있는 게시물을 탐지 하고 미국의 친구들에게 자살 신고 옵션 을 눈에 잘 띄게 테스트 했습니다. 이제 페이스 북은 일반 정보 보호 규정 개인 정보 보호법이 적용 되는 유럽 연합을 제외하고이 인공 지능으로 전 세계 모든 유형의 콘텐츠를 조사합니다 민감한 정보를 기반으로 프로파일 링하는 사용자는이 기술의 사용을 복잡하게 만듭니다.
페이스 북은 또한 AI를 사용하여 특히 위험하거나 긴급한 사용자 보고서에 우선 순위를 부여하여 중재자가보다 신속하게 해결할 수 있도록하고 현지 언어 리소스 및 첫 번째 응답자 연락처 정보를 즉시 표시 할 수있는 도구를 사용합니다. 또한 자살 예방에 더 많은 중재자를 배치하고 24/7의 사례를 처리하도록 교육했으며 Save.org, National Suicide Prevention Lifeline 및 Forefront와 같은 80 개의 지역 파트너가있어 위험에 처한 사용자와 네트워크에 리소스를 제공합니다. .
"이것은 페이스 북 라이브에서 특히 프로세스의 모든 단계에서 분을 면도하는 것입니다."라고 Guy Rosen 제품 관리 부사장은 말합니다. 지난 한 달 동안 페이스 북은 첫 번째 응답자가 영향을받는 사용자를 방문하여 100 건이 넘는 "웰니스 체크"를 시작했습니다. "첫 번째 응답자가 도착했으며 그 사람은 여전히 방송하고있는 경우가 있습니다."
페이스 북이 사람들의 게시물 내용을 능동적으로 스캔한다는 아이디어는 그 기술이 어떻게 적용될 수 있는지에 대한 디스토피아적인 우려를 유발할 수 있습니다. 페이스 북은 정치적 반대 또는 사소한 범죄에 대한 스캔을 피하는 방법에 대한 답변을 얻지 못했습니다. 로젠은 단순히 "우리가 여기에서 도울 수있는 기회가있어서 우리가 그것에 투자 할 것입니다."라고 말했습니다. 기술이지만, 우리가 선택의 여지가 있지만 페이스 북이 너무 멀리 가지 않기를 희망하는 또 다른 공간이다.
[업데이트 : 페이스 북의 최고 보안 책임자 인 알렉스 스테 모스 (Alex Stamos)는 페이스 북이 AI에 대한 책임감을 심각하게 사용한다는 사실을 알리는 격렬한 트윗 신호 로 이러한 우려에 답변했다 .
The creepy/scary/malicious use of AI will be a risk forever, which is why it's important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact. twitter.com/JoshConstine/s…
페이스 북 CEO 마크 저커버그 오늘 게시물에서 제품 업데이트를 칭찬 서면 앞으로 AI는 언어의 미묘한 뉘앙스의 더 많은 것을 이해할 수있을 것이다, 신속 포함한 안보뿐만 아니라 자살을 넘어 다른 문제를 식별 할 수있을 것 " 따돌림과 증오의 종류가 더 많습니다. "
페이스 북은 과거에 자살 위험에 대해 수동으로보고 된 게시물에 사용 된 단어와 이미지의 패턴을 찾아 AI를 교육했습니다. 또한 "괜찮습니까?"와 "도움이 필요하십니까?"와 같은 주석을 찾습니다.
"우리는 정신 건강 전문가들과 이야기를 나누었습니다. 자살을 예방하는 가장 좋은 방법 중 하나는 친구 나 가족의 이야기를 듣고 자하는 사람들을위한 것입니다."라고 Rosen은 말합니다. "페이스 북은 정말 독특한 위치에있다. 우리는 어려움에 처한 사람들을 친구와 연결시키고 그들을 도울 수있는 조직과 연결 시키는데 도움을 줄 수 있습니다. "
Facebook에서 자살보고가 지금 어떻게 작동하는지
AI, 인간 사회자 및 크라우드 소스 보고서의 조합을 통해 페이스 북은 지난 달 페이스 북 라이브에서 아버지가 자신을 죽인 것처럼 비극을 막으려 고 노력할 수 있습니다. 특히 생방송은 자살을 잘못 인식하여 필요한 새로운 예방책을 제공하고 많은 시청자에게 영향을 미치기 때문에 모든 사람이 볼 수 있기 전에 플래그가 지정되거나 삭제 될 수있는 녹화 된 Facebook 동영상과 달리 콘텐츠를 동시에 볼 수 있습니다. 사람들.
이제 페이스 북의 모든 게시물에서 자살에 대한 생각을 표현하면 페이스 북의 AI는 사전에 탐지하여 예방 교육을받은 인간 사회자에게 신고하고 시청자를위한보고 옵션을보다 쉽게 이용할 수 있도록 할 것입니다.
신고가 접수되면 페이스 북의 기술팀은 자살 위험 패턴과 일치하거나 우려되는 의견을받는 게시물이나 동영상 부분을 강조 표시 할 수 있습니다. 따라서 운영자는 전체 비디오를 직접 보지 않아도됩니다. AI는 폭력이나 누드를 묘사하는 등 다른 유형의 콘텐츠 (정책 위반)보다 긴급한 사용자 보고서를 우선시합니다. 페이스 북은 이러한 가속화 된 보고서가 가속화되지 않은 보고서의 2 배 빠른 속도로 지방 당국에 전달된다고 말했습니다.
마크 주커 버그 (Mark Zuckerberg)는 5 월에 하버드 (Harvard)의 연설 연설을 하는 동안 불평등에 대해 토론 하면서 눈물을 흘렸다.
Facebook의 도구는 자살 예방을위한 전화 핫라인 및 인근 당국을 포함하여 파트너로부터 현지 언어 리소스를 가져옵니다. 중재자는 응답자에게 연락하여 위험이있는 사용자의 위치로 보내거나, 정신 건강 자원을 위험에 처한 사용자에게 보여 주거나, 사용자와 대화 할 수있는 친구에게 보낼 수 있습니다. "우리의 목표 중 하나는 우리 팀이 우리가 지원하는 모든 언어로 전 세계에 대응할 수 있도록하는 것입니다."라고 Rosen은 말합니다.
지난 2 월 페이스 북의 CEO 인 마크 주커 버그 (Mark Zuckerberg ) 는 "누군가가 일어난 일을 깨닫고 더 일찍보고했다면 막을 수 있었을 가능성이있는, 극도로 비극적 인 사건 (자살, 생중계 등)이 있었다. . . 인공 지능은 더 나은 접근 방식을 제공 할 수 있습니다. "
20 억 명이 넘는 사용자가 있으면 여기에서 Facebook이 단계적으로 나아가는 것을 보는 것이 좋습니다. Facebook은 사용자가 서로 연락하고 서로를 돌보는 길을 만들었을뿐만 아니라 또한 불행하게도 Facebook Live에서 실시간 분산 채널을 만들었습니다.이 채널은 자신이나 다른 사람들에게 가해지는 폭력에 대한 잠재 고객을 호소 할 수 있습니다.
유비쿼터스 글로벌 커뮤니케이션 유틸리티를 만드는 일은 대부분의 기술 회사의 책임을 넘어서며, 페이스 북은 이에 동의 할 것으로 보인다.