구글 어스(Google Earth)의 AI 딥페이크 도구, 출시 하루 만에 중단

AI 심화 요약

구글은 사용자가 텍스트 입력을 통해 위성 사진을 수정할 수 있도록 했던 구글 어스의 신규 AI 기능을 출시 하루 만에 중단했습니다. 나노 바나나 2 기술을 활용한 이 도구는 실제 장소에 존재하지 않는 요소를 추가해 딥페이크 이미지를 생성할 수 있다는 심각한 우려를 낳았습니다. 한 전문가는 국경 난민이나 가자지구 병원 폭격 흔적 등을 생성하는 테스트를 통해 해당 도구가 유해한 콘텐츠를 전혀 차단하지 못함을 입증했습니다. 구글은 디지털 워터마크를 도입했으나 위변조 방지 도구마저 무력화되는 사태가 발생하자, 신뢰성 유지를 위해 더 강력한 안전장치를 마련할 때까지 해당 기능을 전면 철회하기로 결정했습니다. 이는 생성형 AI가 현실 세계를 왜곡하고 허위 정보를 확산시킬 위험성을 극명하게 보여준 사례입니다.