美國健康保險公司UnitedHealthcare涉嫌使用AI推翻醫生的判斷以拒賠患者醫療費,被病人家屬聯合上訴。
UnitedHealthcare是美國最大的健康保險公司,2019 年11月,該公司開始使用 nH Predict人工智慧算法,該AI算法用於估算病人需要多少後期護理,通過在包含600萬個病例的資料庫中提取資訊,來估算後期護理大致需要多久。保險公司的人只需要將客戶的年齡、生活狀況、身體機能等資訊輸入進去,AI就會自動給出一系列估計,包括客戶的醫療需求是什麼、出院日期在哪天等。
AI with 90% error rate forces elderly out of rehab, nursing homes, suit claims https://t.co/dAG5pzP9t5
— Ars Technica (@arstechnica) November 16, 2023
然而,nH Predict有嚴重缺陷,它並不能預測醫療併發症,患者往往在療養院住不超過14天,就會收到拒保通知。更致命的是,這款AI算法是NaviHealth開發的,而NaviHealth則是UnitedHealthcare的子公司。也就是說,該AI推斷出來的結果,全由UnitedHealthcare控制。
2022年,91歲的吉恩(Gene Lokken)在家中摔倒。老人骨質較為疏鬆,腿骨和腳踝均發生骨折。在醫院住了六天后,他被轉移到護理中心,又花了一個月逐漸恢復。醫生說他的情況有所好轉,可以開始物理治療了。
對老人來說,物理治療註定是一個漫長的過程,然而僅在19天之後,UnitedHealthcare就拒絕再支付治療費,並發出一封拒絕信,稱「他沒有嚴重的醫療問題。」但醫生和治療師均認為老人的肌肉功能仍然「麻痹且虛弱」,也就是說應該繼續治療。
家人很憤怒,向保險公司提出異議,但也被對方駁回,無奈下只得自掏腰包,直到老人過世。這家人在買了保險的情況下,仍多花了15萬美元(約117萬港幣)。
![UnitedHealthcare官網截圖](https://image.bastillepost.com/1024x/wp-content/uploads/hongkong/2023/11/bplib_20231122-160726_20231121_GL_醫療-1_source-web_-1024x547.png.webp)
UnitedHealthcare官網截圖
類似的,74歲老人戴爾(Dale Tetzloff)突發中風,住院治療後,醫生將其轉到一家專業的護理院,說他需要至少100天的後續護理。僅僅住了20天,UnitedHealth便拒絕繼續付款。
他的家人給UnitedHealth連續發了兩次異議,在第二次,經NaviHealth的醫生審查後,保險公司同意繼續付款。然而住到第40天時,保險公司再度停了付款,並且拒絕給出理由。家人又嘗試發出異議,可再也沒成功,老人被轉移到養老院四個月後便過世了,從老人中風到去世這段時間,他的家人額外多花了約7萬美元(約54萬港幣)。
![示意圖。設計圖片](https://image.bastillepost.com/1024x/wp-content/uploads/hongkong/2023/11/bplib_20231122-160729_20231121_GL_醫療-2_source-web_-1024x683.jpg.webp)
示意圖。設計圖片
為了討回公道,早前這兩家人聯合起來,將UnitedHealthcare告上了法庭。他們還在尋找全美各地的數萬名潛在受害者,打算進行集體訴訟。在訴訟進行期間,有媒體對UnitedHealth展開了調查,而調查結果很大程度上和兩家人的主張吻合,即該公司使用了存在嚴重缺陷的AI演算法來推翻醫生的判斷。
訴訟文件稱,當患者或者醫生要求查看AI生成的報告時,會被UnitedHealth以“商業機密”為由拒絕。而且,如果醫生執意反對AI做出的判斷,UnitedHealth也會依然以AI為准,這背後的原因是:醫生的判斷太費錢,而AI能省錢。
![示意圖。設計圖片](https://image.bastillepost.com/1024x/wp-content/uploads/hongkong/2023/11/bplib_20231122-160722_20231121_GL_醫療-1_source-web_-1024x576.jpg.webp)
示意圖。設計圖片
根據幾個匿名前員工的爆料,自2020年UnitedHealth收購了NaviHealth後,公司的重點就開始朝著績效、指標轉移了。儘管AI有著明顯的缺陷,但是在過去兩年中,員工們得到的指示仍然是盡可能靠近AI的預測,也就是儘早讓患者出院,給公司省錢。
沒人知道UnitedHealth究竟通過AI省了多少錢,據外媒估計每年能省幾億美元,但具體數字只能猜測,目前,該訴訟仍在進行中。