多模態 AI 將智慧型手機權限轉化為個人檔案

一項對 Priva-See 原型的研究顯示，AI 如何結合一般的智慧型手機權限——照片、聯絡人、行事曆和位置——來猜測一個人生活中敏感的部分。這項發現顯示，權限提示不只必須說明應用程式會收集什麼，也必須說明它可能推論出什麼。

手機權限會詢問應用程式是否可以查看你的照片、聯絡人、行事曆或位置，但不會詢問應用程式可能從這些資料推導出什麼。你可能會允許存取，讓應用程式整理照片或顯示地圖，同時也暴露出有關醫療照護、家庭生活、金錢、信仰或身邊親近之人的線索。手機詢問的是原料，而不是結論。

權限系統是為資料收集而打造的

手機通常會把應用程式隔離在不同空間中。權限會打開通往敏感資料的大門，例如照片或 GPS 位置。這套系統是以原始資料為核心設計的：應用程式獲准取得什麼。

建立個人檔案通常需要長時間收集許多訊號，例如瀏覽紀錄、購買紀錄、識別碼和位置歷史。多模態 AI 改變了這個問題的樣貌。多模態模型可以將文字、圖片、聯絡人和位置放在一起處理。它能在過去需要不同工具或人工審查的資料中，察覺物件、關係和脈絡。

這不代表每個結論都是真的。推論可能是錯的，可能屬於家庭成員而非手機持有人，也可能在用於定價、資格判定、目標式投放或監控時造成傷害。但一個看似合理的猜測，仍可能揭露某個人從未打算分享的事情。

少量資料也能變成個人檔案

研究人員用 Priva-See 測試了這個想法。Priva-See 是一款連接到伺服器端大型語言模型（LLM）的智慧型手機應用程式。在一項經倫理審查委員會批准的美國研究中，有 465 人提交了資料。對每個人而言，這個原型最多可以使用 10 張照片、5,000 筆行事曆和提醒事項事件、5,000 位聯絡人，以及目前的位置。在 iPhone 上，提醒事項也包含在內。

系統使用一個模型處理文字和結構化資料，另一個模型則能分析照片。接著，它會產生關於健康、心理健康、生殖健康、財務、法律問題、政治、宗教、性取向、人際關係和子女的敘述。這些敘述可能涉及使用者，也可能涉及與使用者親近的人。

參與者認為，生成的推論中有 48.8% 完全準確，16.7% 有些準確。重點不在於系統知道一切，而在於有限的一組一般手機權限，已經提供足夠脈絡，讓它做出有用的個人猜測。手機不需要跨網站追蹤系統來建立檔案；線索早已在裝置上。

參與者看到結果後，對於授予研究所探討的權限感到較不自在，尤其是存取相機膠卷的權限。有 52% 的人表示，這次經驗會改變他們未來處理權限的方式。

更清楚的權限可以顯示什麼

想像你在手機上安裝一款應用程式。家長看到的不只是「允許存取照片」，還可能看到一則警告，說明選定的螢幕截圖和行事曆項目可能揭露孩子接受的治療，或家庭的財務狀況。這會讓真正的決定變得清楚：不只是應用程式是否可以讀取資料，也包括它可能從資料中推論出什麼。

這個未來取決於作業系統和模型供應商，能否在資料離開裝置前，讓這些後續用途變得可見且可執行。作者建議，權限警告應說明可能的推論、透明揭露使用了哪些個別項目、在新產生的資料涉及敏感內容時提供本機警告，並制定禁止侵犯隱私推論的模型規則。

在這些保護措施發揮作用之前，權限提示可能承諾的是狹窄的交換，卻掩蓋更廣泛的交換。同意收集照片或位置，不會自動等於同意把它轉化為敏感的個人檔案。

來源

Privacy Leakage Through AI-mediated Analysis of Smartphone Data