《紐約時報》3月21日的《科學》雜志報道說，黑客的可訪問性和潛在的安全漏洞在很大程度上影響著成功的AI系統的發展，但更緊迫的威脅可能會由醫療保健監管機構（如保險提供商和計費公司）面臨。

雖然神經網絡通過分析大量數據來訓練自己完成某些任務，但只需少量的數字操作即可改變技術的核心功能，哈佛醫學院和麻省理工學院的研究員Samuel Finlayson也是該論文的作者，告訴《紐約時報》。正如研究人員已經訓練了AI系統來檢測乳腺癌一樣，黑客可以操縱代碼以不標記惡性腫瘤。

研究人員一次又一次地證明了AI可能會帶來意想不到的負面后果-例如，無人駕駛汽車將停車標志解釋為屈服標志，并且以AI為動力的眼鏡被欺騙以使其認為名人。但就臨床而言，Finlayson和他的同事表示，他們擔心強大的醫療保健利益相關者可以通過數據操作實現什么。

Finlayson告訴《紐約時報》：“醫學信息固有的含混性，加上經常競爭的財務激勵機制，使高風險決策可以依靠非常微妙的信息。”

他說，由于醫療保健行業內有大量的貨幣兌換，保險和計費公司已經通過更改其計算機系統內的計費代碼和其他數據來“使系統計費”。隨著AI在這些環境中變得越來越普遍，利益相關者更有可能操縱掃描以獲得更好的支出，或者更改圖像以加快監管審批。

賓夕法尼亞大學助理教授哈姆薩·巴斯塔尼（Hamsa Bastani）對《醫療時報》進行了研究，他說：“某些行為是無意的，但并非全部。” “總是會有意想不到的后果，尤其是在醫療保健方面。”