患者痛不欲生，但AI說：別給她開止疼藥
博雯 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
因為嚴重痛經入院，在醫囑下注射阿片類藥物（Opioid）以緩解痛苦。
結果入院四天后，就突然被AI告知：
你將不會再接受任何阿片類藥物。
然后就抱著尚未被消除的病痛，立即“被出院”了。
這就是2020年7月份，32歲的Kathryn所遭遇的情況。
而更讓她無法理解的是，兩周后，長期保持聯系的婦科醫生突然又向她聲明：要終止他們之間的關系。
一番查證之后，Kathryn最終發現——
源頭竟來自她的兩只寵物狗？
寵物狗生病讓主人被禁止買藥
其實，在住院期間，Kathryn在被告知“不能再使用阿片類藥物”時，工作人員同時也表示：
你完全沒有意識到自己的圖表中有多高的分數。
當時的Kathryn并不明白“圖表”和“分數”是什么意思。
而兩周后她的醫生送來的終止關系的聲明中，又有這樣一段描述：
（關系的終止）來自NarxCare數據庫中的一份報告。
或許這里提到的NarxCare和之前所說的“圖表分數”有關？
Kathryn和她周圍的人都沒有聽過這個名字，于是她馬上去Google了一下：
原來，這是一個面向醫生、藥店和醫院的分析工具和護理管理平臺。
NarxCare可以利用AI算法對病患的處方藥數據進行統計和分析，最終得到一個風險報告。
它主要使用來自國家藥品登記處的數據。
除此之外，醫療索賠數據、電子健康記錄、 EMS 數據和刑事司法數據也在使用范圍之內。
NarxCare會通過機器學習算法對這些數據進行統計和分析，最終得到一個預測模型。
根據這一模型，每位患者都會得到一個屬于自己的的“處方藥使用風險評估報告”：
如果評分過高，就有可能被認為是有藥物濫用情況，從而被拒絕出售相關處方藥。
但這仍然不能解決Kathryn的疑惑：
她所患有的子宮內膜異位癥導致了常年的生理病痛，因此她確實有長期服用阿片類藥物的習慣。
但這一切都是在醫生指導下所開的處方藥啊，怎么突然就被叫停了？
在與各種論壇上的慢性疼痛病患者的交流之后，Kathryn最終找到了這場意外的源頭。
而結果讓她感到無比離奇——
原來，Kathryn的兩只寵物狗，都曾因疾病而服用過大量的阿片類藥物、苯二氮卓類藥物，甚至巴比妥類藥物：
由于代謝原因，狗狗們所服用的劑量會高出人類。
而買藥的全部流程掛的都是主人，也就是Kathryn的名字。
因此，Kathryn去過的藥店數量、去醫院的路程，以及她收到的處方藥組合，全都被NarxCare記錄了下來。
她的寵物狗們的服藥經歷，全都算到了她的頭上。
美國處方藥監控項目
這場非常荒謬的意外，或許是由于平臺算法的缺陷所導致的。
不過讓Kathryn更在意的是另外一點：
這樣一個暗中收集處方藥數據的項目，她和身邊的大多數人從來都沒聽過。
誰允許的？
其實，這是來自過去20年內，美國已投入了數十億美元的處方藥監控項目：
司法部一直在致力于開發和維護州級處方藥數據庫。
他們希望通過這一電子登記系統實時跟蹤某些受管制藥物的藥方，密切關注制藥市場。
現在，幾乎美國的所有洲都有一個這樣的處方藥監控項目（PDMP）。
而在過去的幾年里，一家名為Appriss的公司慢慢主導了這些州處方數據庫的管理。
NarxCare，就是Appriss公司旗下的產品。
Appriss希望通過NarxCare所產生的報告來幫助處理藥物濫用情況，并輔助醫生進行更好的診斷決策。
在目前的美國，幾乎每個州都會要求醫生和藥劑師在開具處方藥的同時，咨詢和參考NarxCare中的醫療信息，否則就有可能被吊銷執照。
而對于Kathryn這樣的例子，Appriss則表示：
寵物狗提高了主人的評分，這是一個非常罕見的例子。
但不論這是怎樣的一個卡夫卡式的發展，對于現在的Kathryn來說，每次進入藥店時，總能有人看到她過去的那些“圖標和分數”。
她對此表示：
這讓我感到我走入的不是藥店，而是宗教審判所。
不公開的專利算法
而像是Kathryn這樣的例子并不少見。
她在慢性疼痛患者論壇中，就曾遇到一位擁有相似經歷的女士。
在對醫生進行自我介紹之前，就先被要求披露自己為什么長期服用阿片類藥物。
回答了自己患有PTSD后，還被要求進一步解釋精神創傷的原因。
而目前NarxCare并不需要獲得FDA的批準，這也讓一些醫學專家提出了質疑：
它（NarxCare）是一種專有的算法，既沒有學術界的同行評審，也沒有政府監管。
NarxCare用于過量風險評估的算法并不對外公開。
不過根據官網的一些已有的資料，我們可以了解它們大致的思路：
在得到來自處方藥監控項目的大量數據，并開發了一個大的變量集后，再將數據分解為一個訓練集和一個測試集。
有了訓練數據之后，算法就開始將服藥過量和未服藥過量的模式進行對比。
比如，如果某位病患擁有同一醫生開出的三張阿片類處方藥，那么他的藥物濫用風險就遠遠低于三位不同醫生開出處方藥的病患。
在這種重復的對比和學習中，最終就得到了一個用于評估病患風險的預測模型。
這一算法近年來在生命的多個領域得到了廣泛應用。
比如，常常被用來預測哪些病人最有可能從特定的治療中受益，并估計ICU病人出院后惡化或死亡的可能性。
但也就像很多人說的那樣，NarxCare并不透明，沒有辦法從底層去檢查它們是否存在錯誤或偏見：
有很多病人并沒有意識到他們正在被測量分析。
甚至不僅是病患，連使用這一輔助臨床決策系統的醫生也無法完全知曉它的原理。
就像是親身體會的Kathryn所說的那樣：
對于大多數美國人來說，這是一個秘密的信用評分系統。
參考鏈接：
[1]https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/
[2]https://twitter.com/Annaleen/status/1425493523076304898
NarxCare官網：
https://apprisshealth.com/solutions/narxcare/
- 有道智能學習燈發布，通過“桌面學習分析引擎”實現全球最快指尖查詞2022-04-08
- 科學證明：狗勾真的懂你有多累，聽到聲音0.25秒后就知道你是誰，對人比對狗更親近2022-04-14
- 在M1芯片上跑原生Linux：編譯速度比macOS還快40%2022-04-05
- 小學生們在B站講算法，網友：我只會阿巴阿巴2022-03-28
相關閱讀
2000 行代碼，帶你寫一個自己的 SQL 數據庫
“Go SQL DB” 是一個研究目的的支持SQL查詢的關系型數據庫。主要目標是為了向數據庫愛好者展示一個關系型數據庫的基本原理和關鍵設計。
“新基建”重新定義未來大數據基礎架構
IDC預測，中國大數據市場總體收益持續保持快速增長，2019-2023年預測期內的年CAGR（復合年均增長率）為23.5%，增速高于全球平均水平。
