미국 법원 소송 서류에 AI 프롬프트 주입을 시도한 원고, 법원으로부터 제재 받아

AI 심화 요약

뉴욕 비만 치료 그룹을 상대로 소송을 제기한 한 원고가 법원 제출 서류에 인공지능(AI)을 조종하려는 프롬프트 주입 공격을 시도해 논란이 되고 있습니다. 그는 문서 내에 육안으로는 보이지 않는 흰색 글씨로 자신이 승소하도록 판결문을 작성하라는 명령을 숨겨두었습니다. 미국 법원에서 발생한 첫 프롬프트 주입 사례이자 제재 사례입니다. 하지만 해당 법원은 AI를 사용하지 않아 공격은 실패했고, 오히려 이를 발견한 법원 직원에게 발각되었습니다. 재판부는 이 행위를 심각한 소송 남용이라며 비판했고, 이후에도 장난스러운 메시지를 추가한 원고에게 전자 제출 시스템 사용 금지 및 직접 방문 제출을 명령했습니다. 원고는 시스템 검증 목적이었다고 주장했으나, 재판부는 그가 AI의 답변에 과도하게 의존하며 편향된 사고에 빠진 것으로 보인다고 지적했습니다.