DeepMind與NHS陷“隱私門”，劍橋學者列舉三大問題質疑資料安全

從 AlphaGo 開始步入人們視線，人工智慧公司 DeepMind 的一舉一動總是飽受關注，而在去年，DeepMind 與英國國家醫療服務體系 NHS 旗下基金會 Royal Free London 簽訂了為期五年的合同，NHS 旗下的三家倫敦醫院將向 DeepMind 分享 172 萬患者的醫療資料，雷鋒網此前也做過相關報導。

這自然引發了對隱私問題的討論和擔憂，DeepMind 一直聲稱隱私與信任是它們首要考慮的問題，所有資料會被加密且不會與母公司穀歌分享，但依然有不少學者質疑 DeepMind 此言的真實性。

其中劍橋大學學者 Julia Powles 當屬反對聲音最激烈的一個，在與 Hal Hodson 合寫的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質疑 DeepMind 在資料及隱私保護上的意願。

在提及這一爭端之前，我們先和 AI 科技評論回顧一下 DeepMind 與 NHS 合作的大致過程。

在 2015 年 7 月，Royal Free London 旗下公立醫院的醫生與谷歌 DeepMind 公司開始有了初步接觸。值得一提的是，DeepMind 此前並沒有任何提供健康服務的經歷或經驗。

而在 2015 年 11 月，Royal Free 的一些敏感醫療資料就已經開始傳輸到 DeepMind 的所持有的協力廠商伺服器上。而 NHS 作為獲得 Royal Free 大量基金支援的英國國家醫療服務體系，自然也掌控著英國國民健康資訊的大量資料。

隨後在 2016 年 1 月，DeepMind 公開宣佈與 Royal Free 合作，將利用後者所提供的資料開發一款名為 Streams 的應用以輔助急性腎損傷 (AKI)。

2016 年 9 月，DeepMind 三大創始人之一 Mustafa Suleyman 與 Royal Free 的 Subir Mondal 簽署了一份八頁的資訊共用協定（ISA），這份時效五年的協定顯示，Royal Free 是資料的實際控制方，而 DeepMind 只是一個資料處理方。

而在 2016 年 10 月，DeepMind 聲明公司將保護 Royal Free 患者的敏感性資料，比如 AKI 的管理資料與直接護理內容，它們表示，這些資料的範圍比起協定中所約束的內容範圍只會更窄，不會更寬。穀歌也強調 DeepMind 只是在為控制腎臟疾病開發相關應用。

但這樣的聲明並不能讓 Julia Powles 滿意，她在報告中指出了 DeepMind 可能存在的三個問題：

首先是 DeepMind 是否可以被視為一個資料處理方，並直接對病人護理產生影響的問題。根據 DeepMind 的官方資料顯示，Royal Free 至少有 26 名醫生及護士在使用 Streams，平均每天會向 11 個置身 AKI 風險的患者發出健康警報。

Powles 在報告中提到，「為何這樣一家由資料採擷兼廣告巨頭谷歌全資擁有的 AI 公司，能夠構建一個以資料集成用戶為基礎的 App？不論是 DeepMind 還是 Royal Free London，都沒有對這個問題進行正面回答。」

其次，資料如何在法律保護下進行使用？目前所收集到的聲明都只是兩個合作機構的一面之詞，她並沒有瞭解到任何關於資料使用的監督檔或是具有法律約束力的客觀檔。Powles 表示，公眾並沒有瞭解資料去向的管道或權利，因此也無法得知他們所說的是否屬實。

第三點是，相關的設備及演算法是否已經按照法規在監管機構取得授權/許可？根據 DeepMind 及 Royal Free 的聲明，它們採用的是一個為 AKI 服務的「國有演算法」（national algorithm），它能夠對血液水準進行測試，並結合 Royal Free 的資料（已經在 DeepMind 存儲、利用及傳輸），決定是否需要向醫生的移動設備發送相關的健康警報。根據 Powles 的瞭解，DeepMind 並沒有獲得研究批准機構（HRA）或是保密諮詢機構（CAG）的授權和許可。

作為回應，DeepMind 與 Royal Free 聯合發表了一項聲明，指出 Julia Powles 的這篇報告「完全歪曲了 NHS 如何利用技術處理資料的事實。」

「這篇文章犯了一系列重大的事實和分析錯誤，而且臆想我們並沒有簽署類似的資料協定。……事實上，該國的每一個信託機構都會根據同樣的法律與監管制度，使用 IT 系統説明臨床醫生獲取患者的以往及當前的資訊。"

看熱鬧不嫌事大的 BBC 記者 Jane Wakefield 還邀請雙方在一個公開場合進行回應，並表示，「自然，我們非常關心穀歌與 DeepMind 進軍醫療領域，畢竟它此前並沒有涉足過，此外，這些公司並不屬於傳統專業的衛生資訊技術與基礎設施提供商，這些舉動如果不加以澄清和說明，無疑會傷害公眾的感情。」

不可否認的是，NHS 的確曾與一些協力廠商企業簽署了一系列資訊共用協定，DeepMind 此前曾經推測協議的款項達到 1500 項，但 NHS 只是表示並不準確，但沒有給出更詳細的資料。

根據雷鋒網瞭解，目前該應用主要是由英國資訊辦公室（ICO，Information Commissioner's Office）進行調查，而國立資料監管機構（NDG）也對資料進行監控。ICO 最近則表示，他們的調查已經接近尾聲，並聲稱會和 NDG 繼續保持合作，與 Royal Free 及 DeepMind 進行定期聯絡，要求獲得 Stream 的開發資訊。

DeepMind 在 2 月份也已經表示，坦承希望與患者建立更友好的聯繫，並願意設立相關的討論社區。它在一項關於患者參與 Streams 專案的戰略檔中也提及，「如果患者與醫生能夠協商做出決策，效果會變得更好。」雷鋒網也將持續關注 DeepMind 的後續動態。