편집증 환자의 상태에 따라 Stanford와 Google의 연구무섭거나 매혹적 일 것입니다. 공중 이미지를 거리지도로 변환하려는 기계 학습 에이전트는 나중에 "거의 감지 할 수없는 고주파 신호"에 필요한 정보를 숨김으로써 부정 행위로 밝혀졌습니다. 영리한 소녀!
그러나 실제로 AI에 내재 된 일종의 악의적 인 지능을 설명하는 것과는 거리가 먼이 발명품은 발명 된 이후 존재 해 왔던 컴퓨터의 문제를 단순히 보여줍니다.
연구원의 의도는 예상대로 위성 이미지를 Google의 유명한지도로 전환하는 프로세스를 가속화하고 개선하는 것이 었습니다. 이를 위해 팀은 CycleGAN (CycleGAN)이라는 실험을 진행했습니다. CycleGAN은 X 및 Y 유형의 이미지를 가능한 한 효율적이고 정확하게 정확하게 실험 할 수있는 방법을 배우는 신경 네트워크입니다.
초기 결과에 따르면 에이전트는 잘하고 있었고 의심스럽게 잘 수행되었습니다. 팀원에게 팁을 주었던 것은 그 요원이 거리지도에서 항공 사진을 재구성했을 때 후자에 전혀없는 것으로 보이는 많은 세부 사항이 있다는 것입니다. 예를 들어, 거리지도를 만드는 과정에서 제거 된 지붕의 채광창은 요원에게 리버스 프로세스 수행을 요청했을 때 마술처럼 다시 나타납니다.
원래지도, 왼쪽; 원거리에서 생성 된 거리지도; 그리고 거리지도에서만 생성 된 공중지도. 거리지도에 표시되지 않은 두 개의 공중지도에 도트가 있음을 유의하십시오.
신경망의 프로세스의 내부 동작을 파악하는 것은 매우 어렵지만 팀은 생성하는 데이터를 쉽게 감사 할 수 있습니다. 그리고 약간의 실험을 통해 CycleGAN이 실제로 빠른 속도로 끌어 당겼다는 것을 발견했습니다.
이 의도는 상담원이 두 유형의지도의 기능을 해석하고 다른 유형의 올바른 기능과 일치시킬 수 있도록하는 것이 었습니다. 그러나 요원이 실제적 으로 등급을 매기고 있었던 것은 (다른 것들 중에서) 항공지도가 원본과 얼마나 가까운 거리인지와 거리지도의 선명도였습니다.
그래서 다른 사람과 하나가되는 법을 배우지 못했습니다 . 하나의 피쳐를 다른 피쳐의 노이즈 패턴으로 미묘하게 인코딩하는 방법을 배웠습니다. 항공지도의 세부 사항은 거리지도의 실제 시각적 데이터에 몰래 쓰여 있습니다. 육안으로는 눈에 띄지 않지만 컴퓨터가 쉽게 감지 할 수있는 수천 가지 작은 색상 변화입니다.
실제로, 컴퓨터는이 세부 정보를 거리지도에 넣는 것이 너무 좋으므로 어떤 항공지도를 어떤 거리지도 에도 인코딩 하는 법을 배웠습니다 ! 연구원이 확인한 것처럼 "진짜"거리지도에주의를 기울일 필요조차 없습니다 - 항공 사진을 재구성하는데 필요한 모든 데이터가 완전히 다른 거리지도에 무해하게 중첩 될 수 있습니다 :
오른쪽의지도는 왼쪽의지도에 인코딩되어 시각적으로 큰 변화가 없습니다.
(c)의 다채로운지도는 컴퓨터가 체계적으로 도입 한 약간의 차이를 시각화 한 것입니다. 공중 맵의 일반적인 모양을 형성하는 것을 볼 수 있지만,주의 깊게 강조하고 과장하지 않으면 눈치 채지 못할 것입니다.
데이터를 이미지로 인코딩하는 이러한 관행은 새로운 것이 아닙니다. 이것은 스테 가노 그래피 (steganography) 라 불리는 기존의 과학이며, 워터 마크 이미지를 사용하거나 카메라 설정과 같은 메타 데이터를 추가하는 데 항상 사용됩니다. 그러나 실제로 작업을 수행하는 것을 실제로 배워야하는 것을 회피하기 위해 자체 스테 가노 그래프 방법을 만드는 컴퓨터 는 다소 새로운 것입니다. (글쎄, 작년에 연구가 나왔다. 그래서 새로운 것은 아니지만 꽤 참신하다.)
"기계는 더 똑똑 해지고있다"는 서술의 한 단계로 쉽게 받아 들일 수 있지만 진실은 거의 반대입니다. 이 정교한 이미지 유형을 서로 변환하는 실제 어려운 작업을 수행 할만큼 충분히 똑똑하지 않은 기계는 인간 이 탐지하기에 좋지 않다는 것을 속이는 방법을 발견했습니다 . 이것은 상담원의 결과에 대한보다 엄격한 평가로 피할 수 있었으며 연구자가 계속 그렇게했습니다.
언제나 그렇듯이 컴퓨터는 요구되는 것을 정확히 수행하므로 요청할 때 매우 구체적이어야합니다. 이 경우 컴퓨터 솔루션은 이러한 유형의 신경망의 약점을 밝혀내는 재미있는 솔루션이었습니다. 즉, 컴퓨터가 명시 적으로 그렇게하지 못하는 경우 컴퓨터가 본질적으로 세부 정보를 자신의 관심사로 전송하는 방법을 찾게됩니다. 주어진 문제를 쉽고 빠르게 해결합니다.
이것은 컴퓨팅에서 가장 오래된 격언 인 PEBKAC의 교훈입니다. "키보드와 의자 사이에 문제가 있습니다."(내가 실수로 쓴 것처럼, "컴퓨터"가 아닙니다. 케이블이나 무선 인터페이스에 결함이 있음을 나타냅니다.) 인터넷에서 HAL 그것은 : "이것은 인간의 실수에 기인 한 것일뿐입니다."
이 신문은 "Steganography의 마스터 인 CycleGAN" 이 2017 년 Neural Information Processing Systems 컨퍼런스에서 발표되었습니다. Fiora Esoterica 와 Reddit에게 감사의 말을 전 합니다.