AI로 팔레스타인 주민 감시해 온 이스라엘···사진 350만장 무단 수집·활용
지난 8월31일(현지시간) 팔레스타인 요르단강 서안지구에서 아이를 안은 팔레스타인 주민이 이스라엘군 옆을 지나고 있다. AFP연합뉴스
이스라엘군이 팔레스타인 주민들을 식별하기 위해 미국 정보기술(IT) 기업인 아마존의 인공지능(AI) 프로그램을 활용해 온 것으로 드러났다. 안면인식 기능으로 팔레스타인인을 감시하는 과정에서 이들의 사진 약 350만장을 무단으로 수집·활용했다는 비판이 나온다.
영국 일간 가디언은 16일(현지시간) 이스라엘이 팔레스타인 가자지구를 겨냥해 지상공격과 공중폭격을 가하던 2024년 초 약 350만장에 달하는 이미지 파일이 아마존의 클라우드 서비스에 업로드됐다고 관련 문서를 입수해 보도했다. 해당 파일은 가자지구와 서안지구에 있는 팔레스타인인의 사진이었다.
사진 업로드는 주로 ‘롤링 스톤’으로 불리는 팔레스타인인 신상정보 수집·관리 전담 조직에 의해 이뤄졌다. 이스라엘군은 당시 아마존의 AI 기반 안면인식 플랫폼인 ‘레코그니션’을 사용하기 위해서 사진을 다량으로 올렸다고 아마존 측에 밝혔다.
AI 안면인식 서비스 사용 초반, 이스라엘군은 하마스에 붙잡힌 자국 인질들을 파악하거나 하마스군을 식별하기 위해 이를 사용했지만 활용범위는 점차 넓어졌다. 앞선 뉴욕타임스 보도에 따르면 이스라엘군은 군중 사이에서 특정 얼굴을 찾아내는 기술 등을 실험해본 것으로 알려졌다. 이 과정에서 민간인이 군인으로 잘못 인식되는 경우도 종종 발생했다.
문제는 팔레스타인인의 사진을 무단으로 수집·활용한 경위다. 이스라엘군은 2023년 10월 팔레스타인 무장 정파 하마스의 기습 공격을 받은 이후 검문소를 통과하는 팔레스타인인들의 사진을 수집해 온 것으로 알려졌다. 무차별적으로 수집한 팔레스타인인의 개인정보를 아마존 클라우드에 올리는 과정에서도 당사자 동의 절차는 없었다.
사실상 빅테크 기업들이 AI의 군사적 이용을 눈감아줬다는 지적이 나온다. 아마존과 구글은 2021년 수십억달러 규모의 ‘님버스 프로젝트’를 통해 이스라엘 등 외국 정부에 자사의 클라우드 서비스를 사용할 수 있도록 했다. 이 프로젝트는 클라우드 이용 규정을 어기더라도 미국 기업이 이스라엘 정부 및 군을 제지하지 못하도록 하는 조항을 담고 있어 논란이 됐다.
2023년 초 아마존은 이스라엘 측의 민감 정보 보관을 위한 데이터센터 시설을 새로 지었고, 2024년에는 이스라엘군 일부가 텔아비브에 있는 아마존 사무실에 파견돼 근무하기도 했다. 군 소식통에 따르면 이들은 가자지구에서 아마존의 AI 안면인식 기능을 최대한 활용하는 방법을 모색했던 것으로 전해졌다.
아마존 측은 “고객사가 브리핑 및 회의 참석을 위해 정기적으로 사무실을 찾는” 일상적 방문에 불과했다며 다른 의혹을 제기하는 것은 “잘못됐으며 근거가 없다”고 해명했다.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.