Microsoft AI 과학자, Windows 11 리콜을 통해 개인 정보 보호 문제에 대응

스탠포드 인간 중심 인공 지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)에서 Microsoft의 수석 연구 과학자 Jaime Teevan은 Windows 11 Recall의 개인 정보 보호를 옹호하면서 AI 기능이 클라우드에 데이터가 저장되지 않고 로컬로 작동한다고 밝혔습니다. 그녀는 또한 Windows 리콜의 개인 정보 보호 및 안전 문제에 대한 뉴스에 응답했습니다.

리콜은 Snapdragon X 기반 PC에 제공되는 새로운 기능입니다. 과거 활동을 ‘검색 가능’하게 만들기 위해 모든 것을 기록합니다. 예를 들어, 프로젝트를 진행하면서 친구와 토론을 했지만 세부 사항이나 발생한 장소를 기억할 수 없는 경우 Microsoft에 내장된 AI를 활용하여 그 순간을 기억할 수 있습니다.

Windows 최신 버전은 Build 2024 개발 컨퍼런스에서 이 기능을 테스트했는데, 여기서 Recall은 5초마다 화면의 스크린샷을 찍는다는 사실을 확인했습니다. Microsoft는 Recall 기록에서 앱과 웹 사이트를 제외할 수 있도록 허용하지만 Recall이 귀하의 암호와 민감한 정보를 캡처할 수 있다고 경고했습니다.

AI가 이미지에서 텍스트를 추출하고 작은 언어 모델을 사용하여 활동을 검색 가능하게 만들기 때문입니다. Recall의 문제점은 모든 것을 캡처하고 데이터베이스를 생성하여 로컬에 저장하고 거의 노력하지 않고 액세스할 수 있다는 것입니다.

이전에 Microsoft에서 근무했던 Kevin Beaumont 에 따르면 Windows 11은 장치에서 기본적으로 실행되는 Azure AI를 사용하여 모든 스크린샷에서 OCR 데이터를 자동으로 추출합니다.

귀하의 비밀번호를 포함할 수 있는 OCR 데이터는 사용자 폴더 내의 SQLite 데이터베이스에 저장되어 있는 것으로 알려졌으며, 여기에 액세스하려면 특정 권한이 필요합니다.

공식적으로 지원되지 않는 장치에서 리콜을 강제로 활성화하기 위해 Windows 11 설치를 수정한 것으로 알려진 Beaumont는 “이 데이터베이스 파일에는 PC에서 본 모든 내용이 일반 텍스트로 기록되어 있습니다.”라고 썼습니다.

현재로서는 Snapdragon X 프로세서와 Pluton 칩이 탑재된 장치에서 Recall 통합이 더 안전한지는 확실하지 않습니다.

Microsoft는 Recall이 모든 것을 로컬에 저장하기 때문에 안전하다고 말합니다.

Stanford Institute for Human-Centered Artificial Intelligence 컨퍼런스에서 Microsoft의 AI 과학자 Jaime Teevan은 Windows 11의 Recall과 관련된 개인 정보 보호 문제에 대해 답변했습니다 .

토론 중에 미국 학자이자 작가, 발명가인 Erik Brynjolfsson 은 최근 개인 정보 보호 문제로 인해 반발이 있었다고 지적했습니다. Recall은 귀하의 데이터를 수집합니까? 로컬이면서 프라이빗인가요? Erik은 몇 가지 질문을 제기했고 Microsoft는 모든 것이 로컬에 저장된다는 간단한 명분으로 AI 통합을 옹호했습니다.

Microsoft 연구 과학자 Jaime은 다음과 같이 대답했습니다. “그래, 정말 좋은 질문이구나, Erik, 그렇구나. 이 질문이 오전 내내 나왔는데, 중요성, 데이터의 중요성, 그리고 지금 우리가 겪고 있는 이 AI 혁명은 우리가 데이터를 이해하는 방식을 정말로 변화시키고 있습니다.”

Erik이 다시 물었을 때 “로컬에 저장되어 있나요? Recall을 활성화한다고 가정하면, 할 수 있을지는 모르겠지만, 그런 기능을 사용할 수 있게 되면 내 모든 개인 파일이 클라우드나 Microsoft 등으로 올라가는 것이 걱정될 것입니다. 암호화된 상태로 보관하고 있나요? 아니면 어떻게 보관하고 있나요?”

Jaime은 다음과 같이 확신했습니다. “예, 이것은 우리가 회사로서 가장 중요하게 생각하는 기본 사항이며 실제로 데이터 보호입니다. 따라서 Recall은 정보를 캡처하는 기능이며 로컬 Windows 기능이며 클라우드에 아무것도 들어가지 않고 모든 것이 로컬에 저장됩니다.”

Erik은 “좋아요”라고 대답했고 Jaime은 “예”라고 다시 확인했습니다.

Microsoft의 성명은 우리의 우려 사항을 해결하지는 않지만 리콜이 완전히 지역적이라는 점을 확인시켜 줍니다.

보안 연구원들은 동일한 장치에서 다른 사용자가 Recall 데이터베이스에 무단으로 액세스하는 것을 방지하기 위해 Microsoft가 취할 조치를 포함하여 몇 가지 질문을 했습니다.

또한 시스템이 금융 데이터와 같은 민감한 정보가 저장 및 액세스되지 않도록 어떻게 보호하는지 모릅니다.

저는 개인적으로 Recall이라는 아이디어를 좋아하지만 개인 정보 보호와 보안도 똑같이 중요합니다. Microsoft가 리콜을 방어하기 위해 충분한 조치를 취하고 있다고 생각하시나요? 아래 댓글을 통해 알려주세요.