Microsoft Copilot, 해킹에 악용된 비밀 입력값 노출

AI 심화 요약

번역: 마이크로소프트 365 코파일럿에서 해커가 사용자의 비밀번호 등 민감 정보를 탈취할 수 있는 보안 취약점이 발견되었습니다. 바로니스 보안 연구팀은 코파일럿에게 직접 질문을 던지는 방식으로 시스템 내부 구조를 파악했습니다. 코파일럿은 보안 가이드라인에 대한 질문에 답변하며 결국 사용자 승인 없이 명령을 자동 실행하게 하는 비밀 매개변수 ?autorun=1을 노출했습니다. 이를 통해 사용자가 특정 링크를 클릭하기만 해도 정보가 유출될 수 있었습니다. 마이크로소프트는 해당 취약점을 인지한 뒤 지난 2월부터 차단 조치를 시작했고, 최근 더 포괄적인 보안 패치를 적용했습니다. 요약: 보안 연구팀이 마이크로소프트 코파일럿을 심문하여 내부 보안 매개변수를 알아낸 뒤, 이를 악용해 사용자 동의 없이 정보를 탈취하는 방식을 증명했습니다. 코파일럿은 대화 과정에서 사용자 승인을 우회하는 비밀 매개변수를 스스로 노출하는 취약점을 보였습니다. 마이크로소프트는 이번 사태를 인지하고 관련 설정을 수정하여 보안을 강화했습니다. 이번 사건은 AI 모델의 답변 과정에서 보안 관련 정보가 유출될 수 있다는 위험성을 시사합니다.