존경받는 대학 연구원들이 Apple의 스캔 계획 이면의 기술에 대해 경종을 울리고 있습니다. 아이폰 CSAM에 대한 사용자의 사진 라이브러리 또는 아동 성적 학대 자료, 기술을 '위험'이라고 부릅니다.
프린스턴 대학교의 컴퓨터 공학 및 공보 조교수인 조나나트 메이어(Jonanath Mayer)와 프린스턴 대학교 정보 기술 정책 센터(Center for Information Technology Policy)의 연구원인 아누나이 쿨슈레스타(Anunay Kulshrestha)는 특집을 썼다 ~을위한 워싱턴 포스트 , 이미지 감지 기술 구축 경험을 간략하게 설명합니다.
연구원들은 2년 전에 종단 간 암호화된 온라인 서비스에서 CSAM을 식별하는 프로젝트를 시작했습니다. 연구원들은 자신의 분야에서 '제3자 액세스로부터 데이터를 보호하는 종단 간 암호화의 가치를 알고 있습니다.'라고 말합니다. 그들은 이러한 우려가 '암호화된 플랫폼에서 확산되는' CSAM에 대해 두려움을 주는 것이라고 말합니다.
맥북 프로 13인치 배터리 수명
Mayer와 Kulshrestha는 상황의 중간 지점을 찾고 싶었다고 말했습니다. 온라인 플랫폼이 CSAM을 찾고 종단 간 암호화를 보호하는 데 사용할 수 있는 시스템을 구축하는 것입니다. 연구원들은 해당 분야의 전문가들이 그러한 시스템의 가능성을 의심했지만 그들은 그것을 구축하는 데 성공했고 그 과정에서 심각한 문제를 발견했다고 지적합니다.
우리는 온라인 서비스가 유해 콘텐츠를 식별하는 동시에 종단 간 암호화를 보존할 수 있는 가능한 중간 지점을 모색했습니다. 개념은 간단했습니다. 누군가가 알려진 유해 콘텐츠 데이터베이스와 일치하는 자료를 공유하면 서비스에 경고가 표시됩니다. 사람이 무고한 콘텐츠를 공유하면 서비스는 아무 것도 배울 수 없습니다. 사람들은 데이터베이스를 읽거나 콘텐츠가 일치하는지 여부를 알 수 없습니다. 해당 정보는 법 집행 방법을 밝히고 범죄자가 탐지를 피하는 데 도움이 될 수 있기 때문입니다.
지식이 풍부한 관찰자들은 우리와 같은 시스템이 실현 가능하지 않다고 주장했습니다. 많은 잘못된 시작 후에 작동하는 프로토타입을 만들었습니다. 그러나 우리는 눈에 띄는 문제에 직면했습니다.
애플이 이 기능을 발표한 이후로, 회사는 폭격을 받았습니다. 우려와 함께 압제적인 정부의 요청에 따라 CSAM 탐지 시스템이 다른 형태의 사진을 탐지하는 데 사용될 수 있다는 점입니다. 애플은 정부의 그러한 요청을 거부할 것이라고 말하면서 그러한 가능성에 대해 강력하게 반발했습니다.
그럼에도 불구하고 CSAM 탐지에 사용되는 기술의 미래 의미에 대한 우려는 널리 퍼져 있습니다. Mayer와 Kulshrestha는 정부가 시스템을 사용하여 CSAM 이외의 콘텐츠를 감지할 수 있는 방법에 대한 우려가 '방해'했다고 말했습니다.
iOS 14에서 할 일
예를 들어, 외국 정부는 불리한 정치적 발언을 공유하는 사람들에게 서비스를 제공하도록 강요할 수 있습니다. 그것은 가설이 아닙니다. 인기 있는 중국 메시징 앱인 WeChat은 이미 콘텐츠 매칭을 사용하여 반체제 인사를 식별합니다. 인도는 올해 정부 정책에 중요한 사전 심사 콘텐츠를 요구할 수 있는 규칙을 제정했습니다. 러시아는 최근 민주화 시위 자료를 삭제하지 않은 구글, 페이스북, 트위터에 벌금을 부과했다.
우리는 다른 단점을 발견했습니다. 콘텐츠 일치 프로세스에 오탐지가 있을 수 있으며 악의적인 사용자가 시스템을 게임하여 무고한 사용자를 조사할 수 있습니다.
우리는 너무 당황해서 컴퓨터 과학 문헌에서 이전에 보지 못한 조치를 취했습니다. 우리는 심각한 단점을 완화하는 방법에 대한 추가 연구를 촉구하면서 자체 시스템 설계에 대해 경고했습니다....
Apple은 계획에 대한 사용자의 우려를 계속해서 해결해 왔으며, 추가 문서 게시 그리고 자주 묻는 질문 페이지 . Apple은 사용자의 기기에서 발생할 CSAM 탐지 시스템이 오랫동안 유지되어 온 개인 정보 보호 가치와 일치한다고 계속 믿고 있습니다.
태그: Apple 개인 정보 보호 , WashingtonPost.com , Apple 어린이 안전 기능
인기 게시물