코파일럿 유출 결함 수정…권한 관리 과제

이메일 속 지시로 내부 정보 노출 가능했던 에코리크…MS, 지난해 서버에서 수정

마이크로소프트 365 코파일럿에서 이메일에 숨겨진 지시를 통해 내부 정보가 외부로 노출될 수 있었던 취약점 ‘에코리크’가 수정됐다. 마이크로소프트는 이 사례를 설명하며 인공지능(AI)이 접근할 수 있는 데이터의 권한을 관리해야 한다고 밝혔다.

에코리크는 AI가 외부에서 받은 내용을 처리하는 과정에서 그 안에 숨겨진 지시를 따르도록 만드는 간접 프롬프트 주입 취약점이다. 마이크로소프트에 따르면 특정 조건에서 코파일럿은 사용자가 접근할 수 있는 제한된 내부 정보를 의도치 않게 내보낼 수 있었다.

보안 연구진은 겉보기에는 일반적인 이메일에 지시를 숨겨 공격하는 가능성을 확인했다. 사용자가 악성 링크를 직접 누르지 않더라도 코파일럿이 관련 자료를 검색하고 처리하는 과정에서 공격이 작동할 수 있다는 점이 특징이다.

이 취약점은 CVE-2025-32711로 등록됐다. 관련 연구에 따르면 마이크로소프트는 2025년 5월 서버 측에서 결함을 수정했고, 취약점 정보는 같은 해 6월 11일 공개됐다. 당시 이용자가 별도로 취해야 할 조치는 없었으며, 실제 악용 증거도 확인되지 않았다고 연구는 전했다.

다만 특정 결함이 수정된 것과 별개로 조직의 문서 접근 권한을 점검할 필요가 있다. 마이크로소프트는 코파일럿이 사용자의 기존 권한을 따르므로, 불필요하게 넓은 권한이 남아 있으면 해당 정보가 AI의 검색과 요약 결과에 나타날 수 있다고 설명한다.

예를 들어 부서 이동 뒤에도 이전 업무 자료에 접근할 수 있다면, 기존 권한이 유지된 범위에서 코파일럿이 그 자료를 참조할 수 있다. 마이크로소프트는 업무에 필요한 사람에게만 접근을 허용하고 역할별 권한과 데이터 보호 정책을 검토할 것을 권고한다.

기업의 IT 관리자는 공유 문서와 연동 서비스의 접근 범위를 확인하고, 민감한 정보가 포함된 AI 생성 결과는 사람이 검토하는 절차를 마련할 수 있다. 마이크로소프트는 잘못 설정된 연결 기능이나 과도한 권한이 위험을 넓힐 수 있다며 정기적인 설정 점검과 모니터링을 제시했다.